Мирный робот. Почему военный искусственный интеллект хотят запретить?
Images: 
Мирный робот. Почему военный искусственный интеллект хотят запретить?
Мирный робот. Почему военный искусственный интеллект хотят запретить?
Источник: BFM.Ru
Как сообщает BFM.Ru

Российские компании поддержали призыв Илона Маска о запрете боевых роботов. Promobot и NaviRobot подписали открытое письмо о необходимости запрета военного искусственного интеллекта (ИИ). "Автономные летальные вооружения могут стать орудием диктаторов и террористов, используемым против мирного населения. Хакеры смогут взламывать их и использовать в недопустимых целях", — говорится в документе.

Обращение о запрете разработки военного ИИ подписали более сотни IT-бизнесменов, в том числе основатель SpaceX Илон Маск. Оба российских подписанта поделились с Business FM соображениями об угрозе боевых роботов.

Почему все запаниковали? Илон Маск едва ли не каждый месяц делает заявления о необходимости контроля ИИ — как военного, так и гражданского, но ведь истинный искусственный интеллект еще даже не создан. Не рановато? Проблема в пугающей скорости прогресса, объяснил на одной из конференций сам основатель SpaceX:

"Тут работает двойной экспоненциальный рост. Во-первых, экспоненциально растут вычислительные возможности микроэлектроники. Во-вторых, экспоненциально растет эффективность программного обеспечения, используемого в ИИ. Когда в дело вступают двойные экспоненты, почти любой прогноз будет слишком консервативным. Год назад все думали, что компьютер победит чемпиона по игре Го минимум лет через 20. Весной это произошло. А теперь компьютер может играть 50 одновременных матчей против лучших игроков мира без единого шанса на поражение — и это спустя один год".

Программный прорыв в ИИ может случиться в любой момент, а с механической точки зрения все уже готово: роботов, в том числе и прототипы боевых моделей, строят по всему миру, рассказывает гендиректор NaviRobot Игорь Кузнецов.

Игорь Кузнецов гендиректор NaviRobot "Технологии уже позволяют выпустить в горячие точки роботов в плане мехатроники, то есть готовы мышцы, скелет, спинной мозг, но пока нет еще искусственного интеллекта, который бы принимал решения.

Если на борту есть искусственный интеллект, то он принимает решение сам, и тут начинаются проблемы. Если он попадает в руки хакеров, террористов и прочих вредных персонажей, то это может привести к очень плохим результатам".

Предоставление автономии военному ИИ может привести — и это не преувеличение — к апокалиптическим последствиям. Наглядным примером может послужить история, произошедшая в начале 80-х годов, когда советская система предупреждения о ракетном нападении ошибочно зафиксировала запуск американских ракет по СССР. Глобальную ядерную войну предотвратила только бдительность дежурного офицера Станислава Петрова, который впоследствии стал лауреатом нескольких наград и героем документального фильма "Человек, который спас мир". Такие же ошибки будут присущи и искусственному интеллекту, поясняет сооснователь и директор по развитию Promobot Олег Кивокурцев:

Олег Кивокурцев сооснователь и директор по развитию Promobot "На сегодняшний день мы можем сказать с уверенностью, что не существует ни одной системы, которая способна распознать объект правильно с точностью 100%. Это означает, что при наведении роботом прицела на какой-либо объект возможна ошибка. При выстреле может пострадать либо человек, то есть робот может спутать военного с простым жителем, либо при наведении ракеты может пострадать жилой объект — робот может перепутать его с военной базой. Это одна из причин, почему стоит ограничивать и как-то регулировать использование роботов".

Правда, нельзя забывать, что ошибаться свойственно интеллекту не только искусственному, но и обычному, человеческому. Это наглядно доказывают, например, случайные уничтожения пассажирских лайнеров системами ПВО, которыми управляли люди. Поэтому в идеале следовало бы запретить вообще все вооружения, пока не появятся безупречные роботы — или безупречные люди.

Просмотров: 543
Автор: 
Андрей Ромашков@camomilesson
Читайте также:
На смену пистолету Макарова придет "Удав"? 13.01.2019 | 18:54 0 0
На смену пистолету Макарова придет "Удав"?
Пистолет "Удав", который заменит легендарный пистолет Макарова, запустят в серийное производство уже в этом году, сообщил РИА Новости источник в оборонно-промышленном...
СМИ: "Лаборатория Касперского" помогла США поймать похитителя данных АНБ 12.01.2019 | 19:37 0 0
СМИ: "Лаборатория Касперского" помогла США поймать похитителя данных АНБ
"Лаборатория Касперского" сотрудничала с Агентством национальной безопасности США, утверждает Politico. По данным американского издания, российская компания летом 2016...
Зачем новым iPhone три камеры? 11.01.2019 | 19:36 0 0
Зачем новым iPhone три камеры?
Apple осенью этого года планирует выпустить три новых смартфона. Флагманская модель с условным названием iPhone XI Max будет оснащена самым большим в новой линейке...
МС-21 попал в санкционную яму 10.01.2019 | 19:35 0 0
МС-21 попал в санкционную яму
В Объединенной авиастроительной корпорации уже сообщили, что проект МС-21 будет реализован с композитным крылом из отечественных компонентов. Когда ждать...
CES 2019: умная техника и битва искусственных интеллектов 09.01.2019 | 19:20 0 0
CES 2019: умная техника и битва искусственных интеллектов
В прежние годы на CES производители демонстрировали новинки, нацеленные на американский рынок с его спецификой: много автомобилей, частные дома с гаражами или...
Кольцо всевластья. Россияне все чаще расплачиваются необычными устройствами 08.01.2019 | 19:17 0 0
Кольцо всевластья. Россияне все чаще расплачиваются необычными устройствами
В России клиенты многих банков, помимо карт, получают кольца с технологией NFC. По сути, это чип с антенной в водонепроницаемом корпусе. Скоростная передача данных...
Расцвет отечественного YouTube: первые российские блогеры пробили отметку в $1 млн за год 04.01.2019 | 19:18 0 0
Расцвет отечественного YouTube: первые российские блогеры пробили отметку в $1 млн за год
Сперва вывернем карманы кумирам интернета. Первое место, по оценкам riabloggers.ru, занимает частый гость эфиров Business FM Валентин Петухов, он же Wylsacom. Почем...
Китай приземлил луноход на обратной стороне Луны 03.01.2019 | 18:55 0 0
Китай приземлил луноход на обратной стороне Луны
Китайский луноход приземлился на обратной стороне Луны. Снимок, который он прислал, опубликован в официальном аккаунте Китайской аэрокосмической научно-технической...
Зачем Twitter едет к Роскомнадзору? 30.12.2018 | 19:31 0 0
Зачем Twitter едет к Роскомнадзору?
Представители Twitter приедут в Россию, чтобы обсудить с Роскомнадзором локализацию данных. По предварительной информации, встреча состоится в январе. Точную дату...
Страна — экспортер странностей: японец женился на голограмме 29.12.2018 | 19:22 0 0
Страна — экспортер странностей: японец женился на голограмме
Япония подтвердила статус главного экспортера странностей: теперь в стране женятся на голограммах. Так, 35-летний японец Акихико Кондо провел церемонию бракосочетания с...