Мирный робот. Почему военный искусственный интеллект хотят запретить?
Images: 
Мирный робот. Почему военный искусственный интеллект хотят запретить?
Мирный робот. Почему военный искусственный интеллект хотят запретить?
Источник: BFM.Ru
Как сообщает BFM.Ru

Российские компании поддержали призыв Илона Маска о запрете боевых роботов. Promobot и NaviRobot подписали открытое письмо о необходимости запрета военного искусственного интеллекта (ИИ). "Автономные летальные вооружения могут стать орудием диктаторов и террористов, используемым против мирного населения. Хакеры смогут взламывать их и использовать в недопустимых целях", — говорится в документе.

Обращение о запрете разработки военного ИИ подписали более сотни IT-бизнесменов, в том числе основатель SpaceX Илон Маск. Оба российских подписанта поделились с Business FM соображениями об угрозе боевых роботов.

Почему все запаниковали? Илон Маск едва ли не каждый месяц делает заявления о необходимости контроля ИИ — как военного, так и гражданского, но ведь истинный искусственный интеллект еще даже не создан. Не рановато? Проблема в пугающей скорости прогресса, объяснил на одной из конференций сам основатель SpaceX:

"Тут работает двойной экспоненциальный рост. Во-первых, экспоненциально растут вычислительные возможности микроэлектроники. Во-вторых, экспоненциально растет эффективность программного обеспечения, используемого в ИИ. Когда в дело вступают двойные экспоненты, почти любой прогноз будет слишком консервативным. Год назад все думали, что компьютер победит чемпиона по игре Го минимум лет через 20. Весной это произошло. А теперь компьютер может играть 50 одновременных матчей против лучших игроков мира без единого шанса на поражение — и это спустя один год".

Программный прорыв в ИИ может случиться в любой момент, а с механической точки зрения все уже готово: роботов, в том числе и прототипы боевых моделей, строят по всему миру, рассказывает гендиректор NaviRobot Игорь Кузнецов.

Игорь Кузнецов гендиректор NaviRobot "Технологии уже позволяют выпустить в горячие точки роботов в плане мехатроники, то есть готовы мышцы, скелет, спинной мозг, но пока нет еще искусственного интеллекта, который бы принимал решения.

Если на борту есть искусственный интеллект, то он принимает решение сам, и тут начинаются проблемы. Если он попадает в руки хакеров, террористов и прочих вредных персонажей, то это может привести к очень плохим результатам".

Предоставление автономии военному ИИ может привести — и это не преувеличение — к апокалиптическим последствиям. Наглядным примером может послужить история, произошедшая в начале 80-х годов, когда советская система предупреждения о ракетном нападении ошибочно зафиксировала запуск американских ракет по СССР. Глобальную ядерную войну предотвратила только бдительность дежурного офицера Станислава Петрова, который впоследствии стал лауреатом нескольких наград и героем документального фильма "Человек, который спас мир". Такие же ошибки будут присущи и искусственному интеллекту, поясняет сооснователь и директор по развитию Promobot Олег Кивокурцев:

Олег Кивокурцев сооснователь и директор по развитию Promobot "На сегодняшний день мы можем сказать с уверенностью, что не существует ни одной системы, которая способна распознать объект правильно с точностью 100%. Это означает, что при наведении роботом прицела на какой-либо объект возможна ошибка. При выстреле может пострадать либо человек, то есть робот может спутать военного с простым жителем, либо при наведении ракеты может пострадать жилой объект — робот может перепутать его с военной базой. Это одна из причин, почему стоит ограничивать и как-то регулировать использование роботов".

Правда, нельзя забывать, что ошибаться свойственно интеллекту не только искусственному, но и обычному, человеческому. Это наглядно доказывают, например, случайные уничтожения пассажирских лайнеров системами ПВО, которыми управляли люди. Поэтому в идеале следовало бы запретить вообще все вооружения, пока не появятся безупречные роботы — или безупречные люди.

Просмотров: 500
Автор: 
Андрей Ромашков@camomilesson
Читайте также:
Говорят WhatsApp — подразумевают Telegram. Комментарий Георгия Бовта 14.08.2018 | 19:02 0 0
Говорят WhatsApp — подразумевают Telegram. Комментарий Георгия Бовта
Российские информагентства сообщили, что в мессенджере WhatsApp больше не будет применяться сквозное шифрование сообщений пользователей. В результате спецслужбы смогут...
СМИ: WhatsApp откажется от сквозного шифрования по требованию властей США 13.08.2018 | 19:26 0 0
СМИ: WhatsApp откажется от сквозного шифрования по требованию властей США
Ряд российских СМИ опубликовал новость о том, что в скором будущем WhatsApp по требованию американских властей откажется от сквозного шифрования, то есть спецслужбы...
Российские компании увеличивают инвестиции в кибербезопасность 11.08.2018 | 19:43 0 0
Российские компании увеличивают инвестиции в кибербезопасность
Почти половина российских компаний планирует увеличить инвестиции в безопасность, говорится в исследовании "Лаборатории Касперского". Это касается таких отраслей, как...
Samsung выпустила новый смартфон и первую "умную" колонку. Стоит ли их покупать? 10.08.2018 | 19:49 0 0
Samsung выпустила новый смартфон и первую "умную" колонку. Стоит ли их покупать?
Южнокорейская компания Samsung выпустила новый смартфон Galaxy Note 9 и первую "умную" колонку Galaxy Home с голосовым помощником Bixby. Устройства были презентованы 9...
Сообщения в опасности: в WhatsApp и Telegram нашли серьезные уязвимости 09.08.2018 | 19:05 0 0
Сообщения в опасности: в WhatsApp и Telegram нашли серьезные уязвимости
Специалисты исследовательской компании Check Point Research нашли уязвимость в мессенджере WhatsApp, которая позволяет злоумышленникам перехватывать сообщения...
Российский внутрисетевой роуминг наконец-то отменят? 07.08.2018 | 18:51 0 0
Российский внутрисетевой роуминг наконец-то отменят?
Российские операторы отменят плату за входящий роуминг внутри страны, об этом Business FM заявили в пресс-службах "Билайна" и МТС. Кроме того, аналогичное сообщение...
Обновлено Чиновники перейдут на смартфоны с российской ОС? 06.08.2018 | 19:48 0 0
Обновлено
Чиновники перейдут на смартфоны с российской ОС?
Обновлено в 18:19 Принудительный перевод почти 8 миллионов российских чиновников на смартфоны с системой Sailfish "Ростелекома" обойдется более чем в 160 млрд рублей. Об...
Американская мечта: родители в США нанимают детям репетиторов по видеоиграм 03.08.2018 | 19:32 0 0
Американская мечта: родители в США нанимают детям репетиторов по видеоиграм
"Папа, папа, а можно я пойду с ребятами мяч погоняю?" — "Нет, сынок, у тебя через полчаса занятие. Давай, запускай Playstation. Домашку сделал?" Примерно так...
В Росавиации опровергли сообщения об опасном сближении самолетов над Черным морем 02.08.2018 | 19:48 0 0
В Росавиации опровергли сообщения об опасном сближении самолетов над Черным морем
Опасного сближения самолета Airbus A330 российской авиакомпании iFly с другим самолетом над водами Черного моря не было. Об этом РИА Новости сообщил представитель...
Apple приятно удивила инвесторов 01.08.2018 | 19:49 0 0
Apple приятно удивила инвесторов
Отчет Apple приятно удивил инвесторов. Производитель гаджетов представил финансовые показатели за третий квартал 2018 года. Выручка Apple превысила 53 млрд долларов —...