Алексей Цветков / 8 августа

Право и долг

Представим себе на минуту Бога, решившего сотворить мир, в целом похожий на наш или даже идентичный ему. У него есть для этого точный план, а Богу все под силу. План представляет собой схему распределения частиц в пространстве и времени, и предположим, что Бог уже его выполнил. Возникает вопрос: должен ли он добавить что-нибудь к уже созданному, чтобы во вселенной было сознание вроде нашего, человеческого? Если нет, то вселенная чисто материальна, и сознание тоже. Если да, то возникает лазейка для всякого рода метафизики.

Допустим на секунду, что в этой задаче, принадлежащей классику аналитической философии Солу Крипке, верно второе решение — для моих нынешних целей неважно, какое из них является верным на самом деле. Чем тогда отличается вселенная первого образца от второй, в которую привнесен «дух»? Она идентична нашей нынешней, в ней есть звезды и планеты, а среди последних — по крайней мере одна такая, на которой есть жизнь, растения, животные и люди. Эти люди ходят на работу, смотрят телевизор, едят, занимаются любовью как минимум ради продолжения рода. Они, может быть, даже польку пляшут, если есть для этого повод. Но они существенно отличаются от нас, хотя ни один прибор или эксперимент этой разницы не покажет: у них ничего нет «внутри». Они определяют запахи и цвета, но запаха розы или ее цвета в том смысле, в каком он предстает нашему внутреннему знанию, для них не существует. Они отдернут руку, если ткнуть в нее ножом, но не чувствуют боли. У них нет сознания, они автоматы.

Такую теоретическую разновидность людей в философии именуют «зомби», хотя это, конечно, не те зомби, которых мы видим в кино роняющими куски гнилого мяса. Они полезны для решения разного рода задач, из которых нас в данный момент интересует только одна: заслуживают ли они морального отношения, вправе ли они выступать как объект нравственности?

Можно, конечно, отмести проблему, заявив, что никаких зомби не существует. Проблемы этим не снимаются, но и само утверждение неверно: они существуют в нашем восприятии. Философ Рене Декарт, например, считал, что животные — это чистые автоматы, без всякой искры духа, и значит, с ними надлежит обращаться как с вещами. Иммануил Кант, судя по всему, также верил в автоматизм животных. Тем не менее, он считал, что жестокость по отношению к ним очерствляет человеческие души, а значит безнравственна.

С тех пор этика отношения к животным претерпела сильную эволюцию, и мы в любом случае уже не относимся к ним как к автоматам. Но XXI век поворачивает проблему новой гранью. По мнению Дэвида Гелернтера, в скором времени нам предстоит общение с разумными человекообразными роботами. Гелернтер, судя по всему, должен понимать, о чем пишет. Он известен как специалист по информационным технологиям с нестандартными идеями и в то же время оригинальный мыслитель консервативного направления. В свое время террорист Теодор Качинский, поставивший себе задачу истреблять пионеров технотронного будущего, послал ему по почте взрывное устройство, причинившее тяжелые телесные повреждения — тоже своего рода дань уважения.

В данном случае Дэвид Гелернтер имеет в виду не полностью человекообразное машинное мышление, которое удовлетворяло бы известному тесту Тьюринга, а достаточно убедительную его имитацию — так называемый «слабый искусственный интеллект» в противоположность сильному. В возможности последнего многие сомневаются, но осуществимость первого практически бесспорна. И мы можем быть совершенно уверены, что никаких «чувств» внутри такого робота нет, хотя его научат довольно убедительно их имитировать. Возникает вопрос: насколько «нравственным» должно быть наше отношение к такому артефакту? Вправе ли мы, если его поведение вызывает у нас недовольство, попросту взять в руки молоток и отключить неприятное устройство ударом по электронной голове? Или, в более кротком варианте, послать его по известному адресу, не обинуясь возможной имитацией обиды? В попытке ответить на этот вопрос Гелернтер не прибегает ни к каким ухищрениям аналитики. Он вначале пытается привлечь к решению проблемы идеи философа Мартина Бубера (явно безуспешно), а затем обращается к Талмуду. Талмудические учителя, по его словам, «безоговорочно осуждали жестокость в отношении животных». Это, конечно, не совсем неправда в сравнении, допустим, с уложениями других обществ и религий, но слово «безоговорочно» тут явно не на месте. Если бы каннибал осуждал чрезмерно жестокий способ забоя людей перед их употреблением в пищу, вряд ли эпитет «безоговорочно» был бы применим к нему.

Гелернтер обращает наше внимание на характерную особенность иудаизма: в нем не существует идеи права, возникшей в Риме, вместо него есть долг — так называемые «мицвы», правильные дела, перечисленные в Талмуде. Правильное поведение, включающее в себя всю этику, подразумевает исполнение всех этих предписаний, независимо даже от психологии поступающего — достаточно его готовности поступать как предписано. Идея современных движений в защиту животных основана на предположении, что они обладают какими-то правами, которые могут быть сравнимы с человеческими или даже им эквивалентны. Иудаизм же, по мысли Гелернтера, просто запрещает излишнюю жестокость в отношении животных исходя из идеи святости человеческой жизни.

Можно ли из этого умозаключения, не для всех и не очень убедительного, извлечь какие-то правила в отношении автоматов? Дэвид Гелернтер считает, что «жестокое» отношение к роботам испортит моральную атмосферу: дескать, оно притупит наше нравственное чутье, необходимое в реальных нравственных ситуациях.

Эту мысль он, конечно, адресует не только евреям, полагая, что любому из нас будет полезно зачерпнуть мудрости талмудических учителей. Но если я когда-либо и сталкивался с идеей, аргументированной слабее, то уж точно не в статье, претендующей на постановку такой серьезной проблемы и подписанной столь авторитетным именем.

Прежде всего, не только иудаизм исходит из предположения, что у нас нет прав, а есть долг. Похожих принципов придерживается утилитаризм, философское направление, к которому принадлежит философ Питер Сингер, давший толчок нынешнему движению за «освобождение животных». Сингер исходит из того, что животные могут ощущать боль и страдание, эмоции вроде любви и страха, а в некоторых случаях обладают и предчувствием смерти. Права, о которых можно говорить в этом контексте, являются юридическими, а не «естественными», имеется в виду защита со стороны закона, и этими правами обладают в современных цивилизованных обществах все, в том числе и евреи. Можно по-разному относиться к идеям Сингера, но не понимать разницы между естественными и юридическими правами стыдно.

Если обратиться к этике Канта, то она тоже целиком построена на долге, а не на праве, и аргументирована несколько сильнее, чем гипотеза Гелернтера — заслуживает хотя бы уважительного кивка.

Поразительнее всего, что Гелернтер, судя по всему, считает теорию Декарта о животных-автоматах истиной — похоже, он сегодня единственный сторонник этой давно отвергнутой идеи. Иначе зачем бы он приводил животных в качестве параллели роботам, заведомо лишенным сознания? Куда продуктивнее было бы обратиться к гипотезе зомби, с которой я начал это эссе. В отличие от меня Дэвид Гелернтер верит в реальность — вернее, в реализуемость зомби, потому что он как раз сторонник «сильного искусственного интеллекта» и полагает, что таковой будет создан, по крайней мере в отдаленном будущем. Если действительно мы когда-нибудь создадим автоматы, которые в повседневном общении будут неотличимы от нас, мы тем не менее никогда не обретем полной уверенности, что пейзаж их внутреннего сознания идентичен нашему. Иными словами, мы не придумаем доказательства, что вот этот «дух», о котором спорят аналитики, будет действительно в них витать. Мы ведь даже в самом близком человеке прозреваем сознание лишь по аналогии с собственным. И если «человек» (а добиться внешнего сходства будет наверняка легче, чем внутреннего) появился на свет способом, отличным от биологического, подозрение, что он и есть тот самый зомби, с него не снимешь. Но поскольку подозрение, что его сознание идентично нашему, отмести будет тоже невозможно, мы, я полагаю, будем относиться к такому «человеку» в соответствии с полным кодексом нравственности, без скидки на его искусственность и без услуг «шохета», ритуального резника. Потому что урезанного кодекса нравственности не бывает — когда-то мы применяли такой в отношении «низших» рас, но сегодня он безвозвратно дискредитирован. Чтобы нравственность не скатилась на уровень политической корректности, мы должны поступать так, как если бы метафизика была реальностью, независимо от своего мировоззрения. В противном случае мы не просто унижаем гипотетическое третье лицо, мы унижаем самих себя.