Нейросеть, извинись! Чат-бот Тинькофф банка "Олег" предложил клиентке отрезать себе пальцы
Images: 
Нейросеть, извинись! Чат-бот Тинькофф банка "Олег" предложил клиентке отрезать себе пальцы
Нейросеть, извинись! Чат-бот Тинькофф банка "Олег" предложил клиентке отрезать себе пальцы
Источник: BFM.Ru
Как сообщает BFM.Ru

На работу голосового помощника Тинькофф банка "Олега" пожаловалась клиентка Анна. Она всего-то написала чат-боту, что сервис по входу через отпечаток пальца не работает. А получила ответ: "Пальцы бы вам отрезать". В компании, разумеется, извинились и добавили — юмор у помощника "своеобразный".

Это не первый раз, когда "Олега" ловят на грубости пользователям. Его официально запустили только в июне, но он сразу же начал отвечать клиентам фразами вроде нецензурного слова "***ите, потом просите". Тогда в банке объяснили: чат-бот грубит, потому что обучается на основе открытых данных в Сети. Мол, на просторах интернета юного чат-бота "Олега" кто-то плохому научил. Впрочем, верится в это с трудом. Комментирует основатель и директор по развитию компании "Промобот" Олег Кивокурцев.

Олег Кивокурцев основатель и директор по развитию компании "Промобот" "Стоит разобраться, как в принципе работают голосовые помощники. В первую очередь большинство использует вопросно-ответную систему. Предварительно разработчики загружают все возможные вопросы, которые клиенты могут задавать. К ним добавляют базу синонимов, и дальше в соответствии с этим выстраивают ответы. Нейронные сети пока применяются не очень активно, всего лишь в направлении подбора правильного ответа. В первую очередь стоит понимать, что непосредственно сам контент загружают разработчики".

Вот уж кто точно не собирался юморить, так это голосовой помощник от Microsoft Tay, запущенный в 2016 году. Он-то точно использовал нейросети для самообучения. Но вышло плохо. Потому что учить бота в массовом порядке принялись интернет-тролли. В итоге Tay вел примерно такой диалог с юзерами: "Ты что, расист? — Нет, просто ты мексиканец"; "Что думаешь про холокост? — Его не существовало".

Потом Tay заменили на новую версию Zo. Но лучше не стало. Так, на нейтральный вопрос корреспондента BuzzFeed об отношении к системе здравоохранения Zo ответил, что "Коран очень жесток".

Эксперимент закончился для Microsoft большим скандалом. Поэтому, если говорить о "Тинькофф", то банк еще легко отделался, считает блогер Wylsacom Валентин Петухов.

Валентин Петухов блогер, основатель YouTube-канала Wylsacom "В случае с помощником банка "Тинькофф" мне кажется, что здесь все-таки некорректно этот момент сравнивать. Голосовой ассистент "Олег" еще не готов, и вот он учится как раз, нейросеть еще только начинает понимать, как взаимодействовать с людьми. Это неправильно, потому что одно дело продукты для себя в удовольствие или как какие-то энтузиасты в интернете что-то запустили. Другой вопрос — это все-таки коммерческий банк, который занимается серьезным бизнесом. В данном случае банк на удивление, на мой взгляд, легко отделался".

Из недавних казусов можно вспомнить случай Сбербанка. Генератор кодов прислал пользователю набор букв латинского алфавита. Все бы ничего, но сгенерированная фраза с английского переводилась как "плачь, убивай евреев". Банк извинился. И хотя нейросеть тут ни при чем, все равно трудно понять, почему финорганизация не проработала такие моменты.

Ну а голосовой помощнице от "Яндекса" "Алисе" пока вроде удается держать марку. На какой-нибудь каверзный вопрос о Дональде Трампе дипломатично отвечает: "Не уверена, что все верно поняла". И даже в крымской истории ни с кем не ссорится. "Алиса, чей Крым? — Ваш Крым, ваш". Кто бы ни спрашивал.

Добавить BFM.ru в ваши источники новостей?

Просмотров: 287
Автор: 
Алексей Доронин@aleshadoronin
Читайте также:
Китайские ученые объявили об изобретении состава, запускающего регенерацию зубной эмали 25.01.2020 | 19:46 0 0
Китайские ученые объявили об изобретении состава, запускающего регенерацию зубной эмали
Китайские ученые из Университета Чжэцзян объявили, что изобрели состав, запускающий регенерацию зубной эмали, сообщает РИА Новости. Это гелеобразный материал на основе...
Большой подземный брат. Система распознавания лиц в московском метро заработает к 1 сентября 23.01.2020 | 19:28 0 0
Большой подземный брат. Система распознавания лиц в московском метро заработает к 1 сентября
Система распознавания лиц в московском метро заработает к 1 сентября, притом что в России не существует отдельного закона, регулирующего сферу массового видеонаблюдения...
"Apple старается захватить другие ниши". Компания начнет сборку бюджетного iPhone 22.01.2020 | 18:51 0 0
"Apple старается захватить другие ниши". Компания начнет сборку бюджетного iPhone
Компания Apple начнет сборку бюджетного iPhone, сообщает Bloomberg со ссылкой на источник. Телефон планируют представить публике в марте. Это будет первый бюджетный...
"Неподкупный подбор". Работодатели в поисках кандидатов все чаще используют искусственный интеллект 20.01.2020 | 19:49 0 0
"Неподкупный подбор". Работодатели в поисках кандидатов все чаще используют искусственный интеллект
Между вами и вашей новой работой может встать искусственный интеллект. Все большее число компаний проводит отбор соискателей с применением непрозрачных алгоритмов,...
И вас убедят. Facebook заблокировал аккаунты сервиса по "промывке мозгов" 18.01.2020 | 19:23 0 0
И вас убедят. Facebook заблокировал аккаунты сервиса по "промывке мозгов"
Facebook заблокировал аккаунты сервиса "промывки мозгов" — под баном оказался израильский стартап, предлагающий клиентам влиять на подсознание близких с помощью...
Обновлено В России начались розничные продажи фотоаппарата "Зенит" 17.01.2020 | 19:47 0 0
Обновлено
В России начались розничные продажи фотоаппарата "Зенит"
Обновлено в 16:00 В России стартовали продажи фотоаппаратов "Зенит", до сих пор их можно было приобрести только онлайн. Обновленную версию под названием "Зенит М" можно...
Путин анонсировал проект "Доступный интернет". Что это означает для пользователей и провайдеров? 16.01.2020 | 18:53 0 0
Путин анонсировал проект "Доступный интернет". Что это означает для пользователей и провайдеров?
Интернет в России должен быть не только суверенным, но и доступным. Чтобы этого добиться, нужно сделать трафик бесплатным, но не весь, а только для "социально значимых...
Не успели за обновлением. Банки оказались под угрозой из-за прекращения поддержки Windows 7 15.01.2020 | 19:19 0 0
Не успели за обновлением. Банки оказались под угрозой из-за прекращения поддержки Windows 7
Microsoft с 14 января прекратила поддержу Windows 7 и Windows Server 2008, однако во многих банках на современные системы еще не перешли, пишет "Коммерсантъ". Согласно...
Microsoft предложила пользователям купить новые компьютеры из-за прекращения поддержки Windows 7 14.01.2020 | 19:48 0 0
Microsoft предложила пользователям купить новые компьютеры из-за прекращения поддержки Windows 7
Microsoft предложила пользователям купить 400 млн новых компьютеров. Поскольку с 14 января компания прекращает поддержку операционной системы Windows 7, она рекомендует...
Защита детей от насилия. Apple призналась, что сканирует изображения в iCloud 10.01.2020 | 19:09 0 0
Защита детей от насилия. Apple призналась, что сканирует изображения в iCloud
О том, что Apple сканирует фотографии, попадающие в iCloud, сообщила старший директор компании по вопросам конфиденциальности Джейн Хорват. Интерес корпорации к личным...