Нейросеть, извинись! Чат-бот Тинькофф банка "Олег" предложил клиентке отрезать себе пальцы
Images: 
Нейросеть, извинись! Чат-бот Тинькофф банка "Олег" предложил клиентке отрезать себе пальцы
Нейросеть, извинись! Чат-бот Тинькофф банка "Олег" предложил клиентке отрезать себе пальцы
Источник: BFM.Ru
Как сообщает BFM.Ru

На работу голосового помощника Тинькофф банка "Олега" пожаловалась клиентка Анна. Она всего-то написала чат-боту, что сервис по входу через отпечаток пальца не работает. А получила ответ: "Пальцы бы вам отрезать". В компании, разумеется, извинились и добавили — юмор у помощника "своеобразный".

Это не первый раз, когда "Олега" ловят на грубости пользователям. Его официально запустили только в июне, но он сразу же начал отвечать клиентам фразами вроде нецензурного слова "***ите, потом просите". Тогда в банке объяснили: чат-бот грубит, потому что обучается на основе открытых данных в Сети. Мол, на просторах интернета юного чат-бота "Олега" кто-то плохому научил. Впрочем, верится в это с трудом. Комментирует основатель и директор по развитию компании "Промобот" Олег Кивокурцев.

Олег Кивокурцев основатель и директор по развитию компании "Промобот" "Стоит разобраться, как в принципе работают голосовые помощники. В первую очередь большинство использует вопросно-ответную систему. Предварительно разработчики загружают все возможные вопросы, которые клиенты могут задавать. К ним добавляют базу синонимов, и дальше в соответствии с этим выстраивают ответы. Нейронные сети пока применяются не очень активно, всего лишь в направлении подбора правильного ответа. В первую очередь стоит понимать, что непосредственно сам контент загружают разработчики".

Вот уж кто точно не собирался юморить, так это голосовой помощник от Microsoft Tay, запущенный в 2016 году. Он-то точно использовал нейросети для самообучения. Но вышло плохо. Потому что учить бота в массовом порядке принялись интернет-тролли. В итоге Tay вел примерно такой диалог с юзерами: "Ты что, расист? — Нет, просто ты мексиканец"; "Что думаешь про холокост? — Его не существовало".

Потом Tay заменили на новую версию Zo. Но лучше не стало. Так, на нейтральный вопрос корреспондента BuzzFeed об отношении к системе здравоохранения Zo ответил, что "Коран очень жесток".

Эксперимент закончился для Microsoft большим скандалом. Поэтому, если говорить о "Тинькофф", то банк еще легко отделался, считает блогер Wylsacom Валентин Петухов.

Валентин Петухов блогер, основатель YouTube-канала Wylsacom "В случае с помощником банка "Тинькофф" мне кажется, что здесь все-таки некорректно этот момент сравнивать. Голосовой ассистент "Олег" еще не готов, и вот он учится как раз, нейросеть еще только начинает понимать, как взаимодействовать с людьми. Это неправильно, потому что одно дело продукты для себя в удовольствие или как какие-то энтузиасты в интернете что-то запустили. Другой вопрос — это все-таки коммерческий банк, который занимается серьезным бизнесом. В данном случае банк на удивление, на мой взгляд, легко отделался".

Из недавних казусов можно вспомнить случай Сбербанка. Генератор кодов прислал пользователю набор букв латинского алфавита. Все бы ничего, но сгенерированная фраза с английского переводилась как "плачь, убивай евреев". Банк извинился. И хотя нейросеть тут ни при чем, все равно трудно понять, почему финорганизация не проработала такие моменты.

Ну а голосовой помощнице от "Яндекса" "Алисе" пока вроде удается держать марку. На какой-нибудь каверзный вопрос о Дональде Трампе дипломатично отвечает: "Не уверена, что все верно поняла". И даже в крымской истории ни с кем не ссорится. "Алиса, чей Крым? — Ваш Крым, ваш". Кто бы ни спрашивал.

Добавить BFM.ru в ваши источники новостей?

Просмотров: 399
Автор: 
Алексей Доронин@aleshadoronin
Читайте также:
Будет ли в рунете работать запрет на современные протоколы шифрования сайтов? 23.09.2020 | 19:31 0 0
Будет ли в рунете работать запрет на современные протоколы шифрования сайтов?
Министерство цифрового развития, связи и массовых коммуникаций подготовило законопроект о запрете в России ряда протоколов, мешающих системам фильтрации трафика. Проект...
Обновлено Министерство цифрового развития предлагает запретить современные протоколы шифрования в рунете 22.09.2020 | 18:54 0 0
Обновлено
Министерство цифрового развития предлагает запретить современные протоколы шифрования в рунете
Обновлено в 16:18 Министерство цифрового развития, связи и массовых коммуникаций предлагает запретить использование в России протоколов шифрования, позволяющих скрывать...
"Это обновление нельзя назвать каким-то радикальным". iOS 14 пока расстраивает пользователей 21.09.2020 | 18:56 0 0
"Это обновление нельзя назвать каким-то радикальным". iOS 14 пока расстраивает пользователей
В iOS 14 появились функции, которые пользователи ждали давно. Например, можно ставить виджеты на рабочем столе, одновременно смотреть видео и листать соцсети. Также...
Удаленка в очках с дополненной реальностью 20.09.2020 | 19:35 0 0
Удаленка в очках с дополненной реальностью
HoloLense, или голографические линзы — так называются очки-шлем дополненной реальности, которые получили трейдеры банка UBS. Надеваешь очки, и ты в родном офисе за своим...
СМИ: Apple начинает производить первые iPhone с 5G 18.09.2020 | 18:59 0 0
СМИ: Apple начинает производить первые iPhone с 5G
Apple начинает производство первых iPhone с поддержкой сетей пятого поколения. Об этом сообщает газета Nikkei Asian Review со ссылкой на источники. Ранее СМИ сообщали,...
Технологию для развития 6G создали в "Сколтехе" 17.09.2020 | 19:17 0 0
Технологию для развития 6G создали в "Сколтехе"
Ученые Сколковского института науки и технологий ("Сколтех") разработали технологию и создали устройство, которое позволит разрабатывать компоненты для систем связи...
Как покупка Nvidia британской ARM изменит рынок и технологии? 16.09.2020 | 19:34 0 0
Как покупка Nvidia британской ARM изменит рынок и технологии?
Калифорнийская Nvidia намерена купить британского разработчика процессоров ARM за 40 млрд долларов. Об этом сообщает Bloomberg со ссылкой на источники. Сама ARM не...
Обновлено Глава NASA назвал "важным событием" обнаружение фосфина в атмосфере Венеры 15.09.2020 | 19:18 0 0
Обновлено
Глава NASA назвал "важным событием" обнаружение фосфина в атмосфере Венеры
Обновлено в 17:42 Глава NASA Джим Брайденстайн отреагировал на открытие ученых из Массачусетса и Кардиффа, которые нашли в облаках Венеры газ фосфин. Это может...
В РАН опровергли поставки Великобританией компонентов к космическому телескопу "Спектр-УФ" в Россию в обход санкций 13.09.2020 | 19:40 0 0
В РАН опровергли поставки Великобританией компонентов к космическому телескопу "Спектр-УФ" в Россию в обход санкций
В Институте астрономии РАН Business FM опровергли данные некоторых СМИ о том, что Великобритания начала поставки компонентов космической ультрафиолетовой обсерватории "...
"Многие люди считают, что я опасен для человечества". Искусственный интеллект написал колонку в газету The Guardian 10.09.2020 | 19:38 0 0
"Многие люди считают, что я опасен для человечества". Искусственный интеллект написал колонку в газету The Guardian
Алгоритм, которому было поручено написать колонку в The Guardian, называется GPT-3. Он состоит из 175 млрд самообучающихся элементов. Его запустили в мае этого года, а...