Средства массовой информации в США нарисовали картину грядущего апокалипсиса, в который перерастет скорая ядерная война планетарного масштаба.
Экс-заместитель главы военного ведомства страны и признанный эксперт в военной сфере Роберт Уорк выразил тревогу по причине того, что, по прогнозам, искусственный разум способен побудить одну из стран, обладающих ядерным оружием, подойти к смертоносной черте и нажать кнопку – этот обзор опубликовал портал Breaking Defence.
Свое видение проблемы американский аналитик сформулировал на конференции по вопросам ИИ, которая прошла недавно в американском университете Джона Хопкинса. Заслуживает внимания то обстоятельство, что Уорк в своем выступлении обрушился с критикой на поднимающуюся в планетарном масштабе кампанию «Остановите роботов-убийц».
Активисты данной инициативы из 57 государств ратуют за прекращение разработки и широкого применения автономных роботизированных систем, в первую очередь, военного предназначения.
Роберт Уорк утверждает, что эти активисты выступают, в сущности, против еще не созданных комплексов вооружения, и в то же время упускают из виду реальную опасность.
«Забудьте о Терминаторе. Не беспокойтесь о танках-роботах или истребителях, — говорится в статье издания Breaking Defence. — Настоящая опасность заключается не в роботизированном оружии. Это компьютер, который использует ИИ для обработки разведывательных данных и приказывает людям нажимать кнопку «огонь».
«Представьте, что в ядерной системе командования и управления есть прогностическая система ИИ, которая запускается по определенным параметрам, — призывает Уорк. — Это гораздо, гораздо, гораздо более тревожная перспектива, чем все, что вы можете представить относительно индивидуального оружия».
Авторы обзора отмечают, что картина, представленная аналитиком Уорком, удивительно напоминает советскую разработку гарантированного ответного ядерного удара, которая теперь, возможно, получит новое рождение. Имеется в виду «Периметр», он же «Мертвая рука».
Журналисты опасаются, что ИИ может принять сейсмические колебания за тряску от ядерных взрывов, и если российская власть вовремя не вмешается, то «Периметр» в автоматическом режиме даст сигнал на запуск межконтинентальных баллистических ракет.
В то же время Уорк отмечает, что ИИ вовсе не обязан иметь доступ к ядерному оружию, чтобы инициировать глобальный конфликт.
«Представьте себе операционную систему в западной части Тихого океана, в китайском командном центре, которая сказала: «Все выглядит так, будто американцы собираются атаковать, нанести упреждающий удар».
Что касается запрета разработки роботов, о котором говорит инициатива «Остановите роботов-убийц», то, с точки зрения эксперта, требование сформулировано настолько расплывчато, что охватывает обширный спектр военных технологий, способных спасать жизни.
К примеру, предлагается запретить «умные» системы наведения оружия, которые помогают летчикам и артиллеристам точнее попадать в цель. Но эти же решение способствуют сокращению побочного урона и снижению количества жертв среди мирного населения, предотвращают огонь по своим.
/Игорь Старцев/
