Мануэль Деланда - Современная война в эпоху разумных машин

играх недавнего прошлого компьютеры исполняли
роль умных ассистентов: игроки сами принимали решения,
отражающиеся на передвижениях и действиях «войск» в игре,
тогда как компьютеры подсчитывали эффективность данной
атаки, используя такие понятия, как «показатель поражающего
действия», скорости продвижения тактических единиц, относи­
тельная сила данной оборонной позиции или эффективность
отдельного наступательного маневра.
С момента их изобретения в начале 19 века военные игры
давали своим участникам возможность сделать стратегические
выводы, а офицерам — приобрести «боевой опыт» в отсутствие
реальной войны. Эта функция стала еще более важной в слу­
чае ядерной войны, то есть войны, которая никогда не велась
и для которой возможна лишь такая подготовка. Но во время
игр личный состав снова и снова не решался переступить черту
ядерной войны. Как правило, люди сначала стремятся перебрать
все возможности переговоров, прежде чем нажимать на роковую
кнопку. Это привело разработчиков военных игр к созданию но­
вых вариантов этой технологии, в которых автоматы полностью
заменяют личный состав игроков: СЭМ (SAM) и ИВАН (IVAN),
как зовут этих роботов, не мешкают с развязыванием Третьей
мировой войны. Поскольку выводы, полученны е из наблю дений

за смоделированными армагеддонами, устроенными боевыми
роботами, попали даже в стратегические доктрины и планы
чрезвычайных ситуаций, можно сказать, что эти «роботизиро­
ванные события» уже начали размывать границу между чисто
совещательной и распорядительной ролью умных машин.

8

Введение

Теперь робототехнический интеллект прокладывает разные
пути в военные технологии, продвигаясь по ним с разной ско­
ростью. Традиционное применение компьютерных технологий
в военных целях (радиолокационные системы, радиосети для
контроля, управления и коммуникаций, навигационные и наво­
дящие устройства для ракет) становятся «умнее» с каждым новым
прорывом в сфере искусственного интеллекта. Механический
разум снова совершит «миграцию» в наступательное и оборо­
нительное вооружения, когда искусственный интеллект даст
машинам новые возможности, позволяющие им «обучаться» на
своем собственном опыте, планировать стратегии для решения
задач разной степени сложности и даже приобретать некоторый
«здравый смысл», помогающий исключать из рассуждения не
относящиеся к делу детали. Но не нужно воображать себе полно­
ценных человекоподобных роботов, заменяющих солдат на поле
боя, или командующих-роботов, которые заменят человеческий
разум в планировании и ведении военных действий. Две этих
технологии (автономные вооружения и системы управления бо­
евыми действиями) и в самом деле были объявлены Пентагоном
ключевыми целями в военных исследованиях 1980-х и 1990-х го­
дов. Но это заявление, сделанное в документе 1984 года под
названием «Стратегические компьютерные системы», было
не только маневром в области связей с общественностью, но
и указанием на то, какую роль однажды суждено сыграть ИИ.
Если мы на время отстранимся от того факта, что роботизи­
рованный интеллект, вероятно, не пойдет по пути антропоморф­
ного развития, подготовленного для него научной фантастикой,
мы сможем без особого труда представить будущее поколение
роботов-убийц, посвятивших себя осмыслению своего исто­
рического происхождения. Мы даже можем вообразить специ­
ализированных «роботов-историков», занятых отслеживанием
различных линий технологического развития, давших рождение
их виду. И мы можем представить, что такой робот-историк
напишет совсем не ту историю, что историк-человек. Если
историк-человек, возможно, попытается понять, каким образом
люди создали часовой механизм, моторы и другие физические
приспособления, историк-робот будет уделять больше внимания
тому, как машины влияли на развитие человека. Робот подчер­
кнул бы, например, следующее: когда часовые механизмы были
ведущей технологией на планете, люди представляли себе, будто

Введение

9

мир является системой винтиков и колесиков, похожей на часы.
Так, Солнечная система вплоть до 19 столетия изображалась
в виде часового механизма, то есть как система без двигателя,
извне приводимая Богом в движение. Позднее, когда появились
двигатели, люди стали осознавать, --">