Мирный робот. Почему военный искусственный интеллект хотят запретить?
Images: 
Мирный робот. Почему военный искусственный интеллект хотят запретить?
Мирный робот. Почему военный искусственный интеллект хотят запретить?
Источник: BFM.Ru
Как сообщает BFM.Ru

Российские компании поддержали призыв Илона Маска о запрете боевых роботов. Promobot и NaviRobot подписали открытое письмо о необходимости запрета военного искусственного интеллекта (ИИ). "Автономные летальные вооружения могут стать орудием диктаторов и террористов, используемым против мирного населения. Хакеры смогут взламывать их и использовать в недопустимых целях", — говорится в документе.

Обращение о запрете разработки военного ИИ подписали более сотни IT-бизнесменов, в том числе основатель SpaceX Илон Маск. Оба российских подписанта поделились с Business FM соображениями об угрозе боевых роботов.

Почему все запаниковали? Илон Маск едва ли не каждый месяц делает заявления о необходимости контроля ИИ — как военного, так и гражданского, но ведь истинный искусственный интеллект еще даже не создан. Не рановато? Проблема в пугающей скорости прогресса, объяснил на одной из конференций сам основатель SpaceX:

"Тут работает двойной экспоненциальный рост. Во-первых, экспоненциально растут вычислительные возможности микроэлектроники. Во-вторых, экспоненциально растет эффективность программного обеспечения, используемого в ИИ. Когда в дело вступают двойные экспоненты, почти любой прогноз будет слишком консервативным. Год назад все думали, что компьютер победит чемпиона по игре Го минимум лет через 20. Весной это произошло. А теперь компьютер может играть 50 одновременных матчей против лучших игроков мира без единого шанса на поражение — и это спустя один год".

Программный прорыв в ИИ может случиться в любой момент, а с механической точки зрения все уже готово: роботов, в том числе и прототипы боевых моделей, строят по всему миру, рассказывает гендиректор NaviRobot Игорь Кузнецов.

Игорь Кузнецов гендиректор NaviRobot "Технологии уже позволяют выпустить в горячие точки роботов в плане мехатроники, то есть готовы мышцы, скелет, спинной мозг, но пока нет еще искусственного интеллекта, который бы принимал решения.

Если на борту есть искусственный интеллект, то он принимает решение сам, и тут начинаются проблемы. Если он попадает в руки хакеров, террористов и прочих вредных персонажей, то это может привести к очень плохим результатам".

Предоставление автономии военному ИИ может привести — и это не преувеличение — к апокалиптическим последствиям. Наглядным примером может послужить история, произошедшая в начале 80-х годов, когда советская система предупреждения о ракетном нападении ошибочно зафиксировала запуск американских ракет по СССР. Глобальную ядерную войну предотвратила только бдительность дежурного офицера Станислава Петрова, который впоследствии стал лауреатом нескольких наград и героем документального фильма "Человек, который спас мир". Такие же ошибки будут присущи и искусственному интеллекту, поясняет сооснователь и директор по развитию Promobot Олег Кивокурцев:

Олег Кивокурцев сооснователь и директор по развитию Promobot "На сегодняшний день мы можем сказать с уверенностью, что не существует ни одной системы, которая способна распознать объект правильно с точностью 100%. Это означает, что при наведении роботом прицела на какой-либо объект возможна ошибка. При выстреле может пострадать либо человек, то есть робот может спутать военного с простым жителем, либо при наведении ракеты может пострадать жилой объект — робот может перепутать его с военной базой. Это одна из причин, почему стоит ограничивать и как-то регулировать использование роботов".

Правда, нельзя забывать, что ошибаться свойственно интеллекту не только искусственному, но и обычному, человеческому. Это наглядно доказывают, например, случайные уничтожения пассажирских лайнеров системами ПВО, которыми управляли люди. Поэтому в идеале следовало бы запретить вообще все вооружения, пока не появятся безупречные роботы — или безупречные люди.

Просмотров: 423
Автор: 
Андрей Ромашков@camomilesson
Читайте также:
Защита Telegram: мессенджер работает, а юристы обжалуют решение суда о блокировке 18.04.2018 | 19:12 0 0
Защита Telegram: мессенджер работает, а юристы обжалуют решение суда о блокировке
Глава Роскомнадзора Александр Жаров в интервью "Известиям" признал, что от секретных чатов Telegram никаких ключей действительно нет, но, по его словам, главная проблема...
Кремль надеется, что Telegram сможет вернуться в Россию 17.04.2018 | 19:36 0 0
Кремль надеется, что Telegram сможет вернуться в Россию
Пресс-секретарь президента Дмитрий Песков, комментируя блокировку Telegram, заявил, что решение суда должно выполняться. Он также выразил надежду на то, что когда-нибудь...
Песков: блокировка Telegram — "это не игра в догонялки" 16.04.2018 | 18:52 0 0
Песков: блокировка Telegram — "это не игра в догонялки"
В Кремле прокомментировали начало блокировки Telegram. Не время говорить об успехе и эффективности технологических мер, но решение суда реализуется, заявил журналистам...
Telegram — умер, но жив 14.04.2018 | 18:59 0 0
Telegram — умер, но жив
Операторы начнут блокировку Telegram с понедельника, 16 апреля, сообщил источник "Интерфакса". Роскомнадзор уже внес в реестр запрещенных ресурсов сайт и веб-версию...
Дуров рассказал, что будет с Telegram 13.04.2018 | 19:13 0 0
Дуров рассказал, что будет с Telegram
Павел Дуров пообещал пользователям Telegram встроенные методы обхода блокировок. Создатель мессенджера сделал такое заявление после решения Таганского суда Москвы о...
В борьбе с интернет-рацией Роскомнадзор заблокировал почти 300 доменов Google 12.04.2018 | 19:43 0 0
В борьбе с интернет-рацией Роскомнадзор заблокировал почти 300 доменов Google
Роскомнадзор заблокировал почти 300 доменов Google. Это необходимо, чтобы остановить работу интернет-рации Zello, пояснили в службе и заверили, что блокировка...
Как нелегальный ремонт приводит к черному экрану IPhone при смене iOS 11.04.2018 | 19:42 0 0
Как нелегальный ремонт приводит к черному экрану IPhone при смене iOS
Ряд пользователей, которые обновили операционную систему своего iPhone 8 по версии системы iOS 11.3, неожиданно столкнулись с тем, что их устройство перестало работать...
Юбилей Курчатовского института 10.04.2018 | 19:09 0 0
Юбилей Курчатовского института
Курчатовский институт — старейшее научное заведение страны, работающее с ядерной физикой, отмечает 75 лет. Указ о проведении празднования по этому поводу Владимир Путин...
Розенберг: у Telegram могут быть ключи от облачных чатов 07.04.2018 | 18:50 0 0
Розенберг: у Telegram могут быть ключи от облачных чатов
В пятницу, 6 апреля, Таганский суд Москвы получил иск Роскомнадзора об ограничении доступа к мессенджеру Telegram в России. Поводом стало то, что мессенджер отказался...
Отказ от рекламы: Facebook пошел навстречу возмущенным пользователям? 06.04.2018 | 19:33 0 0
Отказ от рекламы: Facebook пошел навстречу возмущенным пользователям?
Facebook предложит пользователям заплатить за отказ от рекламы. Об этом заявила исполнительный директор компании Facebook Шерил Сандберг в интервью NBC. Сандберг...