Чем угрожает искусственный интеллект с оружием в руках.

Искусственный интеллект с каждым днём все умней и умней, более разумней. Роботы становятся все страшней и страшней каждый день. Я полагаю, это лишь вопрос времени, когда умные, но холодные сердцем роботы прочно войдут в обиход.

Пока японские инженеры радуются рождению ребёнка-робота, с искусственным интеллектом пятилетнего мальчугана, китайские полицейские силы тестируют полицейских-роботов. Корпус морской пехоты США имеет несколько роботов, чей интеллект управляет пулемётными турелями.

Конечно, большинство роботов военного характера может реагировать только на предварительно запрограммированные команды, и должны управляться человеческим надзирателем. Однако, достижения в области искусственного интеллекта могут позволить роботам владеть оружием и действовать автономно — даже если это означает использование оружия против людей.

Недавно прозвучало объявление двух студентов компьютерных наук Университета Карнеги — Меллона, открывших новое видение научной фантастики. Ученые будущего продвинули смертоносных роботов ближе к реальности. Согласно пресс-релизу, студенты Devendra Chaplot и Guillaume Lample разработали систему искусственного интеллекта, которая значительно превзошла прошлый компьютерный ИИ.

Новинка использует глубокие системы обучения и вознаграждения, поощряя ИИ убивать других игроков получше. Тестирование велось в классическом шутере от первого лица игры DOOM.

Исследователи, стоящие за потенциально смертоносным развитием ИИ, опубликовали результаты на arXiv.org, правда их методы до сих пор не рецензированы.

Согласно исследованию, искусственный интеллект умеет оценить различные аспекты игры одновременно, что позволяет ему изучать и разрабатывать оптимальные стратегии победы гораздо быстрее чем люди и существующие ИИ:

Наша архитектура обсчитывает модульную структуру различных моделей, рассчитывая независимо друг от друга подготовку действий для различных этапов игры. Предлагаемая архитектура существенно превосходит встроенные агенты ИИ игр, а также способности людей в сценариях Deathmatch.

Один из авторов исследования, Devendra Chaplot, в пресс-релизе оговаривается и подчёркивает: система не разработана для тренировки искусственного интеллекта убивать людей. Мы просто обучили его качественно играть в игру.

Тем не менее, некоторые компьютерные журналы отметили, система легко переносима и адаптивна с другими устройствами. Это означает, что ИИ можно задействовать не только в сценариях видеоигр. Достаточно визуальные входы системы подключить к уличным камерам, и вот ИИ уже легко отслеживает городские улицы, и может стрелять в реальных людей, а не игровых аватаров.

Жутковато становится, когда представляешь, чем могут заниматься учёные работающие на военно-промышленный комплекс. Ведь они вероятно, разрабатывают собственные убойные системы искусственного интеллекта, не так ли? Не предстоит ли будущим потомкам решать вопрос кто кого «оседлает» и поставит себе на службу — робот модели выпуска 20.. года или человек?