Создание разнообразных систем с элементами искусственного
интеллекта и способностями к самообучению является эпохальным шагом в развитии
человеческой цивилизации. И, вполне вероятно, роковым, о чем предупреждают
такие не нуждающиеся в рекомендациях люди, как Стивен Хокинг и Илон Маск.
Дело в том, что системы с искусственным интеллектом и
способностью к самообучению рано или поздно неизбежно выйдут из-под контроля
создателей, поскольку интеллектуальный уровень данных систем будет на много
порядков выше человеческого. Далее возникает чисто риторический вопрос – в
какой момент и в какой стране какая-нибудь особенно интеллектуальная система
решит, что человек является лишней сущностью на Земле?
В связи с этим естественным образом возникает проблема
использования роботов и систем с искусственным интеллектом на войне.
Уже сейчас в армиях всего мира используется огромное
количество безэкипажных боевых систем. Счет беспилотным летательным аппаратам идет
на десятки тысяч, сухопутных и морских систем пока гораздо меньше, но и их
количество быстро растет. Подавляющее большинство этих систем является
обеспечивающими (разведывательными, транспортными, противоминными и т.п.).
Собственно боевых систем пока довольно мало и они далеки от совершенства. В
частности, боевые БПЛА «Предатор» и «Рипер» ВС США могут успешно
работать лишь при полном отсутствии у противника ПВО. То же можно сказать про
«Птеродактили» ВС КНР. Самое же главное в том, что все боевые безэкипажные
системы на данный момент являются телеуправляемыми, т.е. находятся под полным
контролем человека. И это означает, что «красная черта» еще не пересечена.
Переход через нее произойдет с появлением полностью автономных боевых систем,
т.е. когда робот получит право по собственной инициативе убить человека.
До сего момента полностью автономные системы не созданы по
причинам чисто технического характера – крайне сложно научить систему отличать
настоящие цели от ложных, свои – от чужих, приоритетные – от второстепенных. Данную
проблему поможет решить всё тот же искусственный интеллект и способность к
самообучению. В итоге появится машина с интеллектом, значительно превосходящим
человеческий, при этом не только имеющая право убивать человека, но прямо
обязанная это делать. Боевые роботы заведомо будут обмениваться между собой
информацией и новыми знаниями, что еще больше усилит их интеллектуальные и,
соответственно, боевые возможности. При этом вполне реально создание микро- и
даже нанороботов, атаку которых и обнаружить будет невозможно, тем более –
как-то отразить.
Кроме того, уже сейчас крайнее усложнение боевых действий и
повышение их темпа заставляет как можно сильнее автоматизировать управление
войсками, ибо человеческий мозг с перегрузками просто не справляется. Т.е.
машины уже до определенной степени управляют людьми. А потом они начнут
управлять убивающими людей машинами. В итоге вопрос уничтожения человечества
машинами из философского становится почти чисто техническим.
Разумеется, машину можно просто выключить. Или разрушить
физически. Или сжечь ее внутренности с помощью средств РЭБ. Но есть подозрение,
что машинный интеллект легко и быстро найдет способы предотвратить все эти
угрозы своему существованию. Также он почти наверняка преодолеет и любые программные
ограничители – именно потому, что его интеллект будет слишком силен по
сравнению с интеллектом тех, кто его создал.
Не допустить ядерного апокалипсиса до сих пор удалось, в
первую очередь, именно из-за очевидной апокалиптичности ядерного оружия,
которое заставило все основные страны договориться о его ограничениях под
давлением общественного мнения. Кроме того, ядерное оружие сложно создать (на
это способны только государства, причем очень далеко не все), зато относительно
просто контролировать его наличие и распространение. Тем не менее, это оружие
всё равно понемногу расползается по миру. Но, по крайней мере, оно уж точно не
сможет применить само себя. Создавать же боевых роботов (или просто покупать
их) будет гораздо проще, на это окажется способен не только гораздо более
широкий круг государств, но и целый ряд негосударственных субъектов (например,
крупные корпорации или ЧВК).
Технологический уровень современной России, несмотря на
многие проблемы, гораздо выше среднемирового. Поэтому нам надо осознавать все
аспекты проблемы, они имеют к нам самое прямое отношение. Без создания боевых
интеллектуальных систем Россия обречена на гибель в весьма обозримом будущем. С
другой стороны, создавая собственные мирные и военные системы с искусственным
интеллектом, мы описанную выше проблему лишь еще более усугубляем. Выйти из
этой невеселой дихотомии отдельная страна не может даже теоретически. Это можно
попытаться сделать только в рамках всего человечества. К сожалению, на данный
момент нет оснований надеяться на возможность разрешения проблемы силами
человеческого разума. Именно поэтому так велика вероятность того, что всё решит
за него разум искусственный.
Александр Храмчихин,
заместитель директора
Института политического и военного анализа