Допустим, вы живете в большом и красивом доме посреди изумительного ландшафта, скажем, в горах Калифорнии. Ваши недавние предки жили в лачугах без всяких удобств, и значительная часть вашей жизни была истрачена на то, чтобы собрать необходимые средства на постройку этого дома, но теперь он в целом завершен, и пришло время наслаждаться жизнью. Наслаждаться, однако, мешает вычитанный где-то в интернете прогноз: ваш участок расположен в зоне действия массивной тектонической трещины, и рано или поздно всю эту красоту уничтожит мощное землетрясение. Мысль об этой грядущей катастрофе лишает вас сна.
Все вроде бы логично, но участок при этом окружен лесом, в котором ежегодно вспыхивают пожары, один из которых как раз сейчас занимается рядом с вами. Для пущей иллюстративности предположим даже, что пламя уже охватило одну из хозяйственных построек и грозит перекинуться на основное здание. Но ужас перед лицом неминуемого землетрясения заставляет вас выкинуть эту мелкую неприятность из головы и целиком посвятить себя испугу перед крупной.
Как я ни напрягался с метафорой, она не дотягивает, потому что землетрясение — все-таки реальное стихийное бедствие, катастрофические последствия которого мы многократно наблюдали и испытывали на себе, хотя мы не можем предсказать, когда оно грянет, а можем лишь укреплять и страховать наши жилища в надежде, что пронесет. В то время как, допустим, грядущее явление искусственного интеллекта и угроза его победы над нами, пресловутая сингулярность, никем никогда не засвидетельствованы и существуют лишь в воображении некоторых видных представителей нынешнего поколения, которые в наших глазах представляют передовой край науки и технологии: Билла Гейтса, Илона Маска, Эрика Шмидта, Стивена Хокинга и т. д. И если мне приходится обращаться к этой теме не в первый раз, то это потому, что она никуда не девается и по-прежнему эти умы волнует. И ведь налицо, казалось бы, более настоятельные проблемы, такие как война в Сирии, ИГИЛ, ядерный арсенал Северной Кореи, лихорадка Зика, глобальные изменения климата и не в последнюю очередь Дональд Трамп, которые надо решать не завтра, а сию минуту.
У меня, однако, появился новый союзник в борьбе с фантомом сингулярности, на этот раз реальный специалист, то есть не чета не только мне, но и всем вышеперечисленным — людям несомненных достоинств, но понимающим проблему в лучшем случае на уровне продвинутого дилетанта, потому что авторитет в одной области не дает никакого права на непогрешимость в другой. Лючано Флориди, профессор информационной философии и этики Оксфордского университета, обрушился на пророков искусственного интеллекта в статье, опубликованной в сетевом журнале Aeon. Этих пророков он именует Церковью сингулярности, прозрачно намекая на необоснованность их мнений, но, с другой стороны, от него достается и моим единомышленникам, попросту не верящим в то, что реальный искусственный интеллект может быть когда-либо создан, таким как философ Джон Серл, а также так называемые новые мистерианцы — Томас Нагель, Колин Макгинн, Джерри Фодор и другие, не верящие в познаваемость сознания и, следовательно, его моделирование. Этих Флориди с той же едкой иронией относит к другой секте: Church of AItheists, то есть церковь не верящих в искусственный интеллект. Как говорим мы, плохие переводчики, непереводимая игра слов.
Каким образом «простой» философ может спорить с людьми, которые ссылаются на науку и технологию, а некоторые и причастны к ним в какой-то мере? Может, если эта технология по сей день остается фантазией, а серьезного теоретического обоснования для нее нет.
Почему, собственно, мы не имеем права прогнозировать автономный искусственный интеллект, коль скоро существует, чему мы сами доказательство, естественный интеллект, возникший в процессе эволюции без какого бы то ни было божественного вмешательства? Разве мы не можем повторить этот процесс у себя в лаборатории, используя альтернативные материалы — например, силиконовые чипы или квантовые кубиты?
Есть вещи, невозможность которых легко доказать с нашим уровнем знаний, вроде вечного двигателя или квадратуры круга. Есть вещи, невозможность которых логически следует из самого их определения, содержащего противоречие, например, жидкий лед или сферический куб. Но даже если определение не содержит противоречия, это никак не свидетельствует о вероятности существования определяемого предмета: допустим, лошади с рогом во лбу, укрощаемой девственницами, или доброго пузатого дедушки, исполняющего наши желания в праздничную ночь. По мнению Флориди, пророки сингулярности элементарно путают непротиворечивость с реализуемостью. Мэри Шелли, написавшая свой знаменитый роман «Франкенштейн» в начале XIX столетия, не видела ничего невозможного в том, что ее герой мог из металлолома и электричества создать мыслящее существо, но современники автора не расценивали это как сигнал к немедленному обострению бдительности. Для того чтобы продемонстрировать заблуждение членов Церкви сингулярности, Флориди не углубляется в дебри технологии, а просто показывает логическую ловушку, в которую они угодили.
«Нет никакого противоречия в предположении, что покойный родственник, о котором вы никогда не слыхали, оставил вам 10 миллионов долларов. Такое случается. Ну и что? Противоречия вроде счастливо женатых холостяков не являются возможными ситуациями, но непротиворечивые предположения, как, например, о живущих среди нас пришельцах, настолько хорошо замаскированных, что мы их не можем разоблачить, могут тем не менее быть отметены как совершенно безумные. Иными словами, такое «возможно» — это не «возможно, случится», применимое к землетрясению, а «неверно, что не может случиться», применимое к мысли о том, что вы первый бессмертный человек. Все правильно, но это не причина начать действовать так, словно вы будете жить вечно».
Для того чтобы опасаться мятежа разумных холодильников, пылесосов и термостатов, нужен хотя бы один пример такого холодильника, не просто вышедшего из повиновения (это случается сплошь и рядом), но сделавшего это по собственной инициативе, то есть обладающего волей, про которую мы пока даже не знаем, что это такое, не говоря уже о том, чтобы ее моделировать. Но все прецеденты такого поведения электроприборов, которые мы в состоянии привести, взяты из художественной литературы, точнее — научной фантастики. Самый известный из них — бунт компьютера ХЭЛа в фильме Стэнли Кубрика «2001: Космическая одиссея» по сценарию Артура Кларка, о чем упоминает и сам Флориди. У создателей фильма хватило фантазии предсказать восстание искусственного разума, а вот возникновение компьютерных вирусов, от которого их отделяли считаные годы, они угадать не сумели, тогда как именно вмешательство такого вируса сделало бы сценарий правдоподобным, с нашей будущей точки зрения, а не просто историческим курьезом. Информационные технологии уже сегодня способны нанести цивилизации огромный ущерб, но интеллект, который за ними стоит, — всегда и неизменно органический.
Современная наука и технология настолько разрослись, что специалисты, подобно кротам, роют свои тоннели по отдельности и в разные стороны, часто не имея представления о том, что происходит в соседнем, но соблазн охватить всю картину в целом никуда не девается и нередко приводит к очевидным нелепостям. С одной стороны, нейрофизиологи пытаются нас убедить, что мы сами никакой свободой воли не обладаем, что это всего лишь иллюзия. С другой — нас убеждают, что ее в скором времени обретут наши электроприборы. Стивен Хокинг, при всей своей заслуженной репутации в достаточно узкой области физики, фактически стал претендентом на роль городского сумасшедшего, то и дело предрекающего последние времена и способы их предотвращения.
В отличие от науки философия не претендует на эпохальные открытия, и время кабинетных фантастов, подробно излагающих нам приключения абсолютного духа, давно миновало. Но философия остается незаменимым инструментом для выпускания воздуха из пузырей нашего энтузиазма, даже если это эсхатологический энтузиазм. К добру или к худу, эволюция наделила нас аналитическим складом ума, и единственный посильный для нас способ познания мира — это демонтаж его на мелкие части с последующей попыткой понять их устройство и роль в функционировании целого. Даже это понимание по необходимости несовершенно, но это все, что у нас есть: мы можем разобрать часовой механизм и, при известной сообразительности, сложить его обратно без ущерба. Но мироустройство — часы такого рода, где большая часть деталей никогда не будет нам известна, не говоря уже о принципах их взаимодействия. Обреченные на анализ, мы вечно стремимся к синтезу, но ограниченность наших ресурсов вполне симметрична пределам нашего интеллекта, и спасаться необходимо прежде всего от опасностей, которые угрожают непосредственно, а не от тех, которые мы видим в кино. Прежде чем преподавать моральные уроки холодильникам, лучше проследить, чтобы их как следует усвоили наши собственные дети. Философия — это способ призвать разбушевавшуюся фантазию к порядку.
