Вадим Новиков / 19 июня

Урок «Терминатора»

На первый взгляд, главный урок различных серий «Терминатора» таков: нам надо опасаться становящихся все более совершенными машин, они могут выйти из-под контроля. На деле для реализации описанных в «Терминаторе» событий не слишком важно, чтобы Скайнет был компьютерной системой, а не человеком.

Посмотрим вкратце, какая цепь событий во вселенной фильма человечество привела человечество в упадок. Скайнет был создан как искусственный интеллект, служащий оборонным целям. Под контроль Скайнета были переданы все компьютеризированные военные системы, включая бомбардировщики и ядерный арсенал. Предполагалось, что такая система будет избавлена от присущих людям ошибок и медлительности, а потому сможет дать быстрый и эффективный ответ на атаку со стороны противника. Вдобавок к этому Скайнет подобно интернету, за устройством которого стояли похожие соображения, был создан как децентрализованная система, все узлы которой почти не возможно вывести из строя одновременно. После того, как Скайнет обретает сознание, люди пытаются его отключить, и в ответ он осуществляет ядерную атаку на Россию, которая отвечает тем же лишенным обороны Соединенным Штатам. В результате ядерной войны основная часть человечества погибает, а оставшихся людей Скайнет уничтожает при помощи многочисленных роботов — терминаторов. В одной из серий также описывается, что когда Скайнет захватил контроль над всеми компьютерными системами, нарушения были интерепретированы как неизвестный вирус, борьбу с которым также вменили Скайнету.

Если отрешиться от конкретных художественных деталей, история в целом является описанием того, как Скайнету удалось установить диктатуру. На первом этапе развития событий будущему диктатору вверяют все основные вооружения страны и дают возможность единолично принимать основные решения, избавившись от медлительности системы сдержек и противовесов. Далее, когда по вине Скайнета возникают повсеместные сбои в компьютерных системах, люди не устанавливают конечную причину сбоев, и де-юре расширяют полномочия Скайнета до тех, что он уже обрел де-факто. В тот момент, когда люди понимают, что что-то пошло не так, они пытаются избавиться от Скайнета, и тогда он для сохранения жизни и власти развязывает международную войну, в которой погибает множество его внутренних противников. Нет нужды считать, что мотивы Скайнета только лишь эгоистичны: несомненно, существенной частью его «Я» изначально являлось желание обеспечить безопасность страны, и попытки избавить от него это еще и попытки подорвать безопасность в целом. А то, что после активной борьбы за мир не осталось камня на камне, это не столь необычно, и вообще может и не противоречить в долгосрочной перспективе  интересу обеспечения безопасности.

Устойчивость установленной после войны диктатуры зиждется на безусловном послушании многочисленных убийц. Становится видно, что диктатуру Скайнета так сложно уничтожить вследствие того, что эта диктатура коллективна: Скайнет живет во всех компьютерных системах одновременно, и уничтожение любой из них не может изменить ситуацию качественно.

Таким образом, у диктатуры Скайнета оказывается два источника: люди, решившие сосредоточить так много единоличной власти в одних руках; и множество послушных убийц, каждый из которых является частью коллективного диктатора. Чтобы понимать, насколько это опасно, человеку, знакомому с историей XX столетия, нет нужды думать о роботах.  Лучше подумать о политике, которому особенно доверяют.