Мирный робот. Почему военный искусственный интеллект хотят запретить?
Images: 
Мирный робот. Почему военный искусственный интеллект хотят запретить?
Мирный робот. Почему военный искусственный интеллект хотят запретить?
Источник: BFM.Ru
Как сообщает BFM.Ru

Российские компании поддержали призыв Илона Маска о запрете боевых роботов. Promobot и NaviRobot подписали открытое письмо о необходимости запрета военного искусственного интеллекта (ИИ). "Автономные летальные вооружения могут стать орудием диктаторов и террористов, используемым против мирного населения. Хакеры смогут взламывать их и использовать в недопустимых целях", — говорится в документе.

Обращение о запрете разработки военного ИИ подписали более сотни IT-бизнесменов, в том числе основатель SpaceX Илон Маск. Оба российских подписанта поделились с Business FM соображениями об угрозе боевых роботов.

Почему все запаниковали? Илон Маск едва ли не каждый месяц делает заявления о необходимости контроля ИИ — как военного, так и гражданского, но ведь истинный искусственный интеллект еще даже не создан. Не рановато? Проблема в пугающей скорости прогресса, объяснил на одной из конференций сам основатель SpaceX:

"Тут работает двойной экспоненциальный рост. Во-первых, экспоненциально растут вычислительные возможности микроэлектроники. Во-вторых, экспоненциально растет эффективность программного обеспечения, используемого в ИИ. Когда в дело вступают двойные экспоненты, почти любой прогноз будет слишком консервативным. Год назад все думали, что компьютер победит чемпиона по игре Го минимум лет через 20. Весной это произошло. А теперь компьютер может играть 50 одновременных матчей против лучших игроков мира без единого шанса на поражение — и это спустя один год".

Программный прорыв в ИИ может случиться в любой момент, а с механической точки зрения все уже готово: роботов, в том числе и прототипы боевых моделей, строят по всему миру, рассказывает гендиректор NaviRobot Игорь Кузнецов.

Игорь Кузнецов гендиректор NaviRobot "Технологии уже позволяют выпустить в горячие точки роботов в плане мехатроники, то есть готовы мышцы, скелет, спинной мозг, но пока нет еще искусственного интеллекта, который бы принимал решения.

Если на борту есть искусственный интеллект, то он принимает решение сам, и тут начинаются проблемы. Если он попадает в руки хакеров, террористов и прочих вредных персонажей, то это может привести к очень плохим результатам".

Предоставление автономии военному ИИ может привести — и это не преувеличение — к апокалиптическим последствиям. Наглядным примером может послужить история, произошедшая в начале 80-х годов, когда советская система предупреждения о ракетном нападении ошибочно зафиксировала запуск американских ракет по СССР. Глобальную ядерную войну предотвратила только бдительность дежурного офицера Станислава Петрова, который впоследствии стал лауреатом нескольких наград и героем документального фильма "Человек, который спас мир". Такие же ошибки будут присущи и искусственному интеллекту, поясняет сооснователь и директор по развитию Promobot Олег Кивокурцев:

Олег Кивокурцев сооснователь и директор по развитию Promobot "На сегодняшний день мы можем сказать с уверенностью, что не существует ни одной системы, которая способна распознать объект правильно с точностью 100%. Это означает, что при наведении роботом прицела на какой-либо объект возможна ошибка. При выстреле может пострадать либо человек, то есть робот может спутать военного с простым жителем, либо при наведении ракеты может пострадать жилой объект — робот может перепутать его с военной базой. Это одна из причин, почему стоит ограничивать и как-то регулировать использование роботов".

Правда, нельзя забывать, что ошибаться свойственно интеллекту не только искусственному, но и обычному, человеческому. Это наглядно доказывают, например, случайные уничтожения пассажирских лайнеров системами ПВО, которыми управляли люди. Поэтому в идеале следовало бы запретить вообще все вооружения, пока не появятся безупречные роботы — или безупречные люди.

Просмотров: 517
Автор: 
Андрей Ромашков@camomilesson
Читайте также:
Страховщик запуска "Союза" выплатит не больше 200 млн рублей. Кто заплатит за аварию ракеты? 15.10.2018 | 19:15 0 0
Страховщик запуска "Союза" выплатит не больше 200 млн рублей.  Кто заплатит за аварию ракеты?
Сумма, как и обычно, при страховании космоса, завораживает: 4,7 млрд рублей. Страховщик — компания "Согласие". Когда стало известно об аварии "Союза", активизировались...
CNBC: у России проблемы с разработкой гиперзвукового оружия 13.10.2018 | 19:29 0 0
CNBC: у России проблемы с разработкой гиперзвукового оружия
У России якобы проблемы с разработкой гиперзвукового оружия. По крайней мере, об этом сообщает телеканал CNBC со ссылкой на источники в американской разведке. Речь...
Обзор инопрессы. Невероятное спасение экипажа "Союза" 12.10.2018 | 18:55 0 0
Обзор инопрессы. Невероятное спасение экипажа "Союза"
Cпасение космонавтов после взрыва на ракете "Союз" комментирует парижская Le Figaro. Мы почти забыли, что запуск людей в космос не простое дело даже для русских, которые...
Обновлено "Авария носителя": экипаж "Союза" экстренно приземлился в Казахстане, возбуждено дело 11.10.2018 | 18:55 0 0
Обновлено
"Авария носителя": экипаж "Союза" экстренно приземлился в Казахстане, возбуждено дело
Обновлено в 16:51 Во время запуска нового экипажа на МКС произошла авария. В составе команды — российский и американский астронавты Алексей Овчинин и Ник Хейг....
Биопринтер будет печатать органы в космосе 10.10.2018 | 19:16 0 0
Биопринтер будет печатать органы в космосе
Космические корабли могут стать фабриками по производству органов. 11 октября российский корабль "Союз" доставит на МКС уникальный прибор — 3D-биопринтер для печати в...
Камера от Цукерберга в каждый дом. Facebook представил умный коммуникатор Portal 09.10.2018 | 19:15 0 0
Камера от Цукерберга в каждый дом. Facebook представил умный коммуникатор Portal
Компания Facebook представила два смарт-динамика Portal и Portal+. Устройства предназначены для разговоров по видеосвязи с помощью приложения Messenger и имеют ряд...
Региональные сотовые операторы грозят, что могут уйти с рынка в связи с отменой роуминга 08.10.2018 | 19:41 0 0
Региональные сотовые операторы грозят, что могут уйти с рынка в связи с отменой роуминга
Региональные сотовые операторы донесли свой "жесткий протест" до департамента информационных технологий и связи правительства и направили письмо в кабинет министров,...
Зачем роботам запретили притворяться людьми? 07.10.2018 | 19:47 0 0
Зачем роботам запретили притворяться людьми?
Власти Калифорнии подписали закон, который запрещает роботам, ботам и нейросетям притворяться людьми. Он вступит в силу 1 июля 2019 года. Как пояснил губернатор штата...
Медведев сделал фото на новый "Зенит" 06.10.2018 | 19:17 0 0
Медведев сделал фото на новый "Зенит"
Дмитрий Медведев посетил Красногорский завод имени Зверева, на котором производят технику под брендом "Зенит". Направив объектив камеры на журналистов, Медведев сказал...
Российские истребители столкнулись с американскими санкциями 05.10.2018 | 19:02 0 0
Российские истребители столкнулись с американскими санкциями
Россия заключила контракт о продаже Индии комплексов С-400. Контракт был подписан во время визита Владимира Путина в Дели. Как ранее сообщали в Кремле, речь идет о...