Мирный робот. Почему военный искусственный интеллект хотят запретить?
Images: 
Мирный робот. Почему военный искусственный интеллект хотят запретить?
Мирный робот. Почему военный искусственный интеллект хотят запретить?
Источник: BFM.Ru
Как сообщает BFM.Ru

Российские компании поддержали призыв Илона Маска о запрете боевых роботов. Promobot и NaviRobot подписали открытое письмо о необходимости запрета военного искусственного интеллекта (ИИ). "Автономные летальные вооружения могут стать орудием диктаторов и террористов, используемым против мирного населения. Хакеры смогут взламывать их и использовать в недопустимых целях", — говорится в документе.

Обращение о запрете разработки военного ИИ подписали более сотни IT-бизнесменов, в том числе основатель SpaceX Илон Маск. Оба российских подписанта поделились с Business FM соображениями об угрозе боевых роботов.

Почему все запаниковали? Илон Маск едва ли не каждый месяц делает заявления о необходимости контроля ИИ — как военного, так и гражданского, но ведь истинный искусственный интеллект еще даже не создан. Не рановато? Проблема в пугающей скорости прогресса, объяснил на одной из конференций сам основатель SpaceX:

"Тут работает двойной экспоненциальный рост. Во-первых, экспоненциально растут вычислительные возможности микроэлектроники. Во-вторых, экспоненциально растет эффективность программного обеспечения, используемого в ИИ. Когда в дело вступают двойные экспоненты, почти любой прогноз будет слишком консервативным. Год назад все думали, что компьютер победит чемпиона по игре Го минимум лет через 20. Весной это произошло. А теперь компьютер может играть 50 одновременных матчей против лучших игроков мира без единого шанса на поражение — и это спустя один год".

Программный прорыв в ИИ может случиться в любой момент, а с механической точки зрения все уже готово: роботов, в том числе и прототипы боевых моделей, строят по всему миру, рассказывает гендиректор NaviRobot Игорь Кузнецов.

Игорь Кузнецов гендиректор NaviRobot "Технологии уже позволяют выпустить в горячие точки роботов в плане мехатроники, то есть готовы мышцы, скелет, спинной мозг, но пока нет еще искусственного интеллекта, который бы принимал решения.

Если на борту есть искусственный интеллект, то он принимает решение сам, и тут начинаются проблемы. Если он попадает в руки хакеров, террористов и прочих вредных персонажей, то это может привести к очень плохим результатам".

Предоставление автономии военному ИИ может привести — и это не преувеличение — к апокалиптическим последствиям. Наглядным примером может послужить история, произошедшая в начале 80-х годов, когда советская система предупреждения о ракетном нападении ошибочно зафиксировала запуск американских ракет по СССР. Глобальную ядерную войну предотвратила только бдительность дежурного офицера Станислава Петрова, который впоследствии стал лауреатом нескольких наград и героем документального фильма "Человек, который спас мир". Такие же ошибки будут присущи и искусственному интеллекту, поясняет сооснователь и директор по развитию Promobot Олег Кивокурцев:

Олег Кивокурцев сооснователь и директор по развитию Promobot "На сегодняшний день мы можем сказать с уверенностью, что не существует ни одной системы, которая способна распознать объект правильно с точностью 100%. Это означает, что при наведении роботом прицела на какой-либо объект возможна ошибка. При выстреле может пострадать либо человек, то есть робот может спутать военного с простым жителем, либо при наведении ракеты может пострадать жилой объект — робот может перепутать его с военной базой. Это одна из причин, почему стоит ограничивать и как-то регулировать использование роботов".

Правда, нельзя забывать, что ошибаться свойственно интеллекту не только искусственному, но и обычному, человеческому. Это наглядно доказывают, например, случайные уничтожения пассажирских лайнеров системами ПВО, которыми управляли люди. Поэтому в идеале следовало бы запретить вообще все вооружения, пока не появятся безупречные роботы — или безупречные люди.

Просмотров: 371
Автор: 
Андрей Ромашков@camomilesson
Читайте также:
Никифоров предрек Microsoft миллиардные потери 23.01.2018 | 19:44 0 0
Никифоров предрек Microsoft миллиардные потери
Ограничения поставок программ в Россию из-за санкций чреваты для Microsoft огромными потерями. Об этом заявил журналистам в кулуарах Давосского форума глава Минкомсвязи...
Ни очередей, ни касс, ни продавцов: первый автоматический магазин Amazon 22.01.2018 | 19:39 0 0
Ни очередей, ни касс, ни продавцов: первый автоматический магазин Amazon
В американском Сиэттле заработала первая продуктовая точка глобального ритейл-гиганта под названием Amazon Go. Особенность магазина — полное отсутствие продавцов, касс и...
Российский космонавт полетал по МКС на пылесосе 21.01.2018 | 19:40 0 0
Российский космонавт полетал по МКС на пылесосе
Российский космонавт Антон Шкаплеров опубликовал видео своего полета по МКС на пылесосе. Его можно посмотреть во "ВКонтакте" и Twitter. В ролике космонавт, оседлав...
Куратор блокчейна в "Сбере" ушла в Газпромбанк 20.01.2018 | 19:23 0 0
Куратор блокчейна в "Сбере" ушла в Газпромбанк
Из Сбербанка уволилась топ-менеджер, отвечавшая за инновации, в том числе за блокчейн. Как сообщает издание CNews, глава центра технологических инноваций Екатерина...
Касперская связала биткоин с американскими спецслужбами 19.01.2018 | 19:14 0 0
Касперская связала биткоин с американскими спецслужбами
Гендиректор InfoWatch и сооснователь "Лаборатории Касперского" Наталья Касперская в ходе выступления в университете ИТМО заявила, что биткоин — "разработка американских...
Исследование: причина взлета биткоина до 1000 долларов — махинация 18.01.2018 | 19:34 0 0
Исследование: причина взлета биткоина до 1000 долларов — махинация
За ростом биткоина до 1000 долларов стоял один человек, утверждают исследователи. Работа американских экономистов была опубликована в "Журнале монетарной экономики"....
Очередное поражение человечества: машины превзошли людей в чтении 16.01.2018 | 19:38 0 0
Очередное поражение человечества: машины превзошли людей в чтении
Сразу два проекта по созданию искусственного интеллекта обогнали среднестатического человека в понимании текста. Проекты Alibaba и Microsoft успешно прошли тест...
Операторы перепишут законы в сфере IT и связи 15.01.2018 | 19:44 0 0
Операторы перепишут законы в сфере IT и связи
Медиа-коммуникационный союз, куда входят в том числе компании "Ростелеком", МТС, "Мегафон" и "Вымпелком", в конце прошлого года начал работу над новым кодексом....
Демократия в опасности. Запад начал "тотальное наступление на соцсети?" 14.01.2018 | 19:30 0 0
Демократия в опасности. Запад начал "тотальное наступление на соцсети?"
Демократия в опасности: представитель МИД Мария Захарова заявила, что Запад начал "тотальное наступление на соцсети". Один из примеров — Германия. С 1 января в стране...
Операция "Олимпиада". Грядут битвы в киберпространстве 12.01.2018 | 19:05 0 0
Операция "Олимпиада". Грядут битвы в киберпространстве
Российские хакеры взяли на прицел Олимпиаду в Пхенчхане. По крайней мере, так утверждают западные аналитики. Тревогу забили IT-компания Threat Connect и разработчик...