Представим себе, что меня заперли в комнате и дали некий массивный текст на китайском языке. Представим себе далее, что я не знаю ни письменного, ни устного китайского языка (так оно и есть на самом деле) и что я не уверен даже, что распознал бы китайский письменный текст в качестве такового, сумев отличить его, скажем, от японского письменного текста или от каких-нибудь бессмысленных закорючек. Для меня китайское письмо как раз и представляет собой набор бессмысленных закорючек. Представим себе далее, что вслед за этой первой китайской рукописью мне дали вторую китайскую рукопись вместе с набором правил сопоставления второй рукописи с первой. Правила эти на английском языке, и я понимаю их, как понял бы любой другой носитель английского языка. Они дают мне возможность сопоставить один набор формальных символов со вторым набором формальных символов, и единственное, что значит здесь слово «формальный», — то, что я могу распознавать символы только по их форме.
Представьте себе теперь, что мне дали третью китайскую рукопись вместе с некоторыми инструкциями, — вновь на английском языке, — дающими мне возможность сопоставлять элементы этой третьей рукописи с первыми двумя, и эти правила учат меня, как в ответ на те или иные формальные символы из третьей рукописи выдавать определённые китайские символы, имеющие определённые очертания. Люди, которые дали мне все эти символы, называют первый текст «рукописью», второй — «рассказом», а третий — «вопросами», но я всех этих названий не знаю. Кроме того, они называют символы, которые я выдаю в ответ на третий текст, «ответами на вопросы», а набор правил на английском языке, который они дали мне, — «программой». Чтобы слегка усложнить эту историю, вообразите себе, что эти люди также дали мне некие рассказы на английском языке, которые я понимаю, и они задают мне вопросы на английском языке об этих рассказах, и я выдаю им ответы на английском языке.
Представьте себе также, что после некоторого промежутка времени я так набиваю руку в выполнении инструкций по манипулированию китайскими символами, а программисты так набивают руку в писании программ, что при взгляде со стороны — то есть с точки зрения какого-либо человека, находящегося вне комнаты, в которой я заперт, — мои ответы на вопросы абсолютно неотличимы от ответов настоящих носителей китайского языка. Никто не сможет сказать, — если он видел только мои ответы, — что я ни слова не говорю по-китайски. Представим себе далее, что мои ответы на английские вопросы неотличимы от ответов, которые бы дали настоящие носители английского языка (как этого и следовало ожидать) — по той простой причине, что я и есть настоящий носитель английского языка. При взгляде со стороны, — с точки зрения какого-нибудь человека, читающего мои «ответы», — ответы на китайские вопросы и ответы на английские вопросы равно хороши. Но в случае китайских ответов, в отличие от случая английских ответов, я выдаю ответы, манипулируя неинтерпретированными формальными символами. Что же касается китайского языка, я веду себя попросту как компьютер; совершаю вычислительные операции на формальным образом определённых элементах. В том, что касается китайского языка, я есть просто инстанциация компьютерной программы.
И вот претензии сильного AI состоят в том, что программированный компьютер понимает рассказы и его программа в некотором смысле объясняет человеческое понимание. Но мы теперь можем рассмотреть эти претензии в свете нашего мысленного эксперимента.
1. Что касается первой претензии, мне кажется совершенно очевидным, что в данном примере я не понимаю ни одного слова в китайских рассказах. Мои входы и выходы неотличимы от входов и выходов носителя китайского языка, и я могу обладать какой угодно формальной программой, и всё же я ничего не понимаю. По тем же самым основаниям компьютер Шэнка ничего не понимает ни в каких рассказах — в китайских, в английских, в каких угодно, поскольку в случае с китайскими рассказами компьютер — это я, а в случаях, где компьютер не есть я, он не обладает чем-то большим, чем я обладал в том случае, в котором я ничего не понимал.
2. Что касается второй претензии, — что программа объясняет человеческое понимание, — мы видим, что компьютер и его программа не дают достаточных условий понимания, поскольку компьютер и программа работают, а между тем понимания-то нет. Но, может быть, при этом создаётся хотя бы необходимое условие или делается существенный вклад в понимание? Одно из утверждений сторонников сильного AI состоит в том, что когда я понимаю некий рассказ на английском языке, я делаю в точности то же самое — или, быть может, почти то же самое, — что я делал, манипулируя китайскими символами. Случай с английским языком, когда я понимаю, отличается от случая с китайским языком, когда я не понимаю, просто тем, что в первом случае я проделываю больше манипуляций с формальными символами.
Дэниел Деннет. Где я?
Теперь, когда благодаря закону о свободе информации я выиграл свое судебное дело, я вправе поведать о странном событии, случившемся со мной. Событие это может заинтересовать не только тех, кто занимается философией разума, искусственным интеллектом и неврологией, но также и широкую публику. Несколько лет назад ко мне обратились сотрудники Пентагона; они предложили мне участвовать в секретном и очень опасном задании. В сотрудничестве с NASA и Говардом Хьюзом, Департамент Защиты тратил миллионы долларов на разработку Сверхзвукового Подземного Аппарата "Туннель", сокращено СПАТЬ. Его задачей было быстро прорыть туннель сквозь центр земли и отправить специальную атомную боеголовку "прямо в ракетные стартовые шахты красных", как выразился один из боссов Пентагона.
Проблема состояла в том, что в одной из ранних попыток им удалось загнать боеголовку почти на милю вглубь под город Тулса, в штате Оклахома, и теперь от меня требовалось достать ее оттуда обратно. "Почему вы выбрали меня?" — спросил я. Мне объяснили, что для решения этой задачи необходимо было применить некоторые новейшие разработки современного исследования мозга, а они слышали о моем интересе к этой области, о моем фаустианском любопытстве, о моей храбрости и так далее. Как я мог отказаться? Трудность, приведшая Пентагон к моим дверям, состояла в том, что аппарат, который я должен был достать, был чрезвычайно радиоактивен, и радиоактивен в новом смысле. Наблюдающие за ним приборы показали, что нечто, свойственное природе аппарата и его сложным взаимодействиям с веществами земных недр, произвело радиацию, способную наносить значительные повреждения некоторым тканям мозга. Никто не мог найти способа защиты от смертельного излучения, которое, кажется, было неопасным для других таней и органов тела. Поэтому было решено, что человек, который отправится за аппаратом, должен будет оставить свой мозг в лаборатории. Мозг будет помещен в безопасное место, откуда он будет продолжать осуществлять контроль над телом с помощью сложной системы радиосвязи.
Меня спросили, соглашусь ли я подвергнуться операции полного удаления мозга, который будет помещен в поддерживающую жизнедеятельность аппаратуру в Хьюстонском ракетном центре. Каждый канал, проводящий входные и выходные данные, будет снабжен микропередатчиками, один из которых будет присоединен к мозгу, а другой — к нервным окончаниям в пустом черепе. Никакая информация не будет утеряна, все контакты будут сохранены. Сначала я колебался, поскольку не был уверен, будет ли такая система действовать. Однако хьюстонские нейрохирурги меня уговорили. "Представьте, что это всего лишь расстяжение нервов, — сказали они. — Если бы мы подвинули вам мозг всего на дюйм внутри вашей головы, это не изменило и не повредило бы ваш разум. Мы всего лишь сделаем ваши нервы бесконечно растяжимыми, вставив в них радиоконтакты".
Мне показали систему жизнеобеспечения Хьюстона и новенький, с иголочки, чан, куда будет помещен мой мозг, если я соглашусь на операцию. Я встретился с большой командой блестящих специалистов, в которую входили неврологи, гематологи, биофизики и инженеры-электроники; после нескольких дней обсуждений я дал свое согласие. После этого меня подвергли огромному количеству разнообразных испытаний, включавших анализы крови, сканирование мозга, эксперименты, интервью и так далее. У меня выспросили всю мою биографию, составили длиннейшие детальные списки моих убеждений, верований, надежд, страхов и вкусов. Они даже занесли в списки мои любимые стереозаписи и устроили мне интенсивный сеанс психоанализа.
Наконец наступил день операции. Разумеется, я был под наркозом и не помню о самой операции ничего. Когда я очнулся, открыл глаза и оглянулся, то задал избитый вопрос, который по традиции задают больные после операции: "Где я?" "Вы в Хьюстоне", — ответила, улыбаясь, медсестра, и я подумал, что в каком-то смысле это, возможно, правда. Она протянула мне зеркало. Действительно, мой череп был усеян крохотными антеннами, торчащими из титановых каналов, вживленных в мой мозг.
"Я полагаю, операция прошла успешно", — сказал я. "Я хочу видеть мой мозг." Меня провели — я еще нетвердо держался на ногах — по длинному коридору в лабораторию жизнеобеспечения. Собравшаяся там команда радостно приветствовала меня, и я ответил гримасой, которая, надеюсь, могла сойти за веселую улыбку. Все еще чувствуя себя неуверенно, я подошел и склонился над чаном, присоединенным к системе жизнеобеспечения. Я посмотрел сквозь стекло. Внутри, в жидкости, напоминающей имбирный эль, плавал человеческий мозг, почти полностью скрытый под электронными чипами, пластиковыми трубочками, электродами и тому подобными принадлежностями. "Это мой мозг?" — спросил я. "Переключите вон тот тумблер, и вы увидите сами", - ответил руководитель проекта. Я поставил тумблер в положение ВыКЛ и немедленно, охваченный внезапной слабостью и головокружением упал на руки ассистентов. Они тут же вернули тумблер в первоначальное положение.
Когда я снова обрел равновесие и пришел в себя, я подумал: "Итак, я сижу на складном стуле и смотрю сквозь небьющееся стекло на свой собственный мозг. Но погодите... не должен ли я сказать, что плаваю в булькающей жидкости, озираемый собственными глазами?" Я попытался продолжить эту мысль. Я попытался направить ее в чан, передать ее собственному мозгу, но это упражнение у меня не вышло. Я предпринял еще одну попытку. "Вот он я, Дэниэл Деннетт, плавающий в булькающей жидкости, озираемый собственными глазами". Нет, у меня ничего не получалось. Все это только сбивало меня с толку. Будучи убежденным философом-физикалистом, я был на сто процентов уверен, что мои мысли зарождаются у меня в мозгу; и, тем не менее, когда я думал: "Вот он я", я ощущал мысль здесь, а не в чане, — здесь, где я, Деннетт, стоял, глядя на мой мозг.
Я пытался и пытался мысленно почувствовать себя в чане, но все мои попытки кончались ничем. Я попытался подойти к этому постепенно, с помощью мысленных упражнений. Я быстро повторил пять раз: "Солнце сияет там", мысленно представляя каждый раз иное место. Перечислю эти места по порядку: освещенный угол лаборатории, залитая солнцем лужайка перед больницей, Хьюстон, Марс и Юпитер. Я обнаружил, что для меня не представляет труда перемещать мои "там" по всей карте звездного неба, каждый раз с правильными точками отсчета. Я мог в мгновение ока забросить одно из "там" в самую отдаленную точку вселенной и затем с аболютной точностью нацелить следующее "там" в верхний левый угол веснушки у меня на руке. Почему же тогда у меня возникали сложности с понятием "здесь"? "Здесь, в Хьюстоне" звучало естественно, как и "здесь, в лаборатории" и даже "здесь, в этой части лаборатории". Однако "здесь в чане" казалось мне пустыми, ничего не значащими словами.
Я попытался думать об этом с закрытыми глазами. Это немного помогло; и все же я не мог заставить себя перенестись в чан больше, чем на мгновение. Я чувствовал себя неуверенно, и это открытие смутило меня еще больше. Откуда я знал, где я имею в виду, когда произношу "здесь"? Мог ли я думать, что имею в виду одно место, когда на самом деле имел в виду другое? Я не понимал, как можно допустить такое, не разрывая тех немногих интимных связей между человеком и его внутренней жизнью, которые еще пережили атаки ученых и философов, как физикалистов, так и бихевиористов. Возможно, я был неисправим насчет того, что имел в виду, когда говорил "здесь". Но в данных обстоятельствах мне казалось, что либо я был приговорен самой силой привычки к тому, чтобы иметь систематически ложные указательные мысли, либо то место, где находится человек (и, следовательно, где его мысли превращаются в символы для семантического анализа), не обязательно расположено там, где находится его мозг, физическая обитель души. Совсем сбитый с толку, я попытался прибегнуть к любимому трюку философов. Я принялся раздавать вещам имена.
"Йорик, — сказал я вслух своему мозгу, — ты — мой мозг. Остальное тело, сидящее на этом стуле, я назову "Гамлетом"." Все мы сейчас здесь: мой мозг, Иорик, мое тело, Гамлет и я сам, Деннетт. Где же я теперь? И когда я думаю "Где я?", где зарождается эта мысль? В моем мозгу, плавающем в этом чане, или, как мне кажется, здесь, в моей голове? Или вообще нигде? Ее временные координаты не представляют никакой проблемы; должны же у нее быть и какие-то пространственные координаты? Я начал составлять список возможностей.
1. Где Гамлет, там и Деннетт. Этот принцип можно легко опровергнуть при помощи известных мысленных экспериментов по пересадке мозга, столь любимых философами. Если Том и Дик обменяются мозгами, Том окажется в теле, которое раньше принадлежало Дику. Если вы его спросите, он скажет вам, что он — Том, и приведет в доказательство самые интимные детали автобиографии Тома. Значит, ясно, что мое тело и я вполне могли бы расстаться чего нельзя сказать обо мне и моем мозге. Из мысленных экспериментов по пересадке мозга вытекает эмпирическое правило: в подобных операциях лучше быть донором, чем получателем. На самом деле, такие операции следовало бы называть пересадкой тела. Так что истина, возможно, в том, что
2. Где Йорик, там и Деннетт. Однако эта альтернатива меня совершенно не привлекала. Как я мог быть в чане и никуда не собираться, когда я совершенно явно находился вне чана, заглядывал в него и с некоторым чувством вины собирался покинуть эту комнату и отправиться обедать? Хотя это и не был ответом на вопрос, мне казалось, что это все же важно. Раздумывая в поисках поддержки для моей интуиции, я набрел на некий юридический аргумент, который мог бы понравиться Локку.
Представь себе, подумал я, что ты сейчас полетишь в Калифорнию, ограбишь банк, и тебя поймают. Где тебя будут судить — в Калифорнии, где произошло ограбление, или в Техасе, где находился твой мозг? Буду ли я калифорнийским преступником с мозгом, находящимся в другом штате, или техасским преступником, который дистанционно управляет кем-то вроде сообщника в Калифорнии? Мне показалось, что я могу осуществить это преступление и выйти сухим из воды лишь на основании этого юридического затруднения: правда, такое ограбление может быть признано федеральным преступлением. Так или иначе, представьте себе, что меня приговорили. Удовлетворилась бы Калифорния, заключив в тюрьму Гамлета, зная, что Йорик наслаждается жизнью, роскошествуя в ванне в Техасе? Посадил бы Техас в тюрьму Йорика, оставив Гамлета на свободе и позволив ему сесть на следующий пароход в Рио? Эта альтернатива мне понравилась. Исключая смертную казнь или другие жестокие и необычные наказания, государству пришлось бы поддерживать систему жизнеобеспечения для Йорика, хотя они могли бы перевезти его из Хьюстона в Ливенворф (федеральная тюрьма в Техасе — Прим. перев.). Если не принимать во внимание связанного с этим бесчестья, мне это будет совершенно все равно и я буду чувствовать себя там таким же свободным. Если бы государство решило перевести заключенных в другие тюрьмы, они не сумели бы проделать этого со мной, переведя в новую тюрьму Йорика. Если это верно, то возникает третья альтернатива.
3. Деннетт там, где он сам считает. Если обобщить это утверждение, мы получим следующее: В любой данный момент человек имеет некую точку зрения, и местоположение точки зрения (внутренне определенное ее содержанием) и есть местоположение самого человека. Подобное утверждение тоже имеет свои сложности, но оно казалось мне шагом в нужном направлении. Единственная проблема заключалась в том, что, как казалось, это ставило меня в беспроигрышную ситуацию типа "орел — я выигрываю, решка — ты проигрываешь", маловероятную по отношению к определению местоположения. Не ошибался ли я много раз — или, по крайней мере, сомневался — относительно того, где нахожусь? Разве человек не может потеряться? Разумеется, может — и не только в географическом смысле. Человек, заблудившийся в лесу, может, по крайней мере, утешаться тем, что знает, где находится: здесь, в знакомом окружении собственного тела. Возможно, что в подобной ситуации человек не оценил бы этого в должной мере. Тем не менее, можно вообразить и худшие ситуации, и я не был уверен, не нахожусь ли сейчас в одной из них.
Точка зрения имела отношение к личному местонахождению, но сама по себе она была туманным понятием. Было очевидно, что содержание точки зрения определенного человека не равнялось его убеждениям или мыслям и не определялось их содержанием. Например, что мы должны были бы сказать о точке зрения кинозрителя в современном кинотеатре, когда головокружительные эффекты фильма преодолевают его психическую дистанцию? Забывает ли он, что сидит в кинотеатре и находится в безопасности? Я сказал бы. что в этом случае человек испытывает иллюзорное смещение точки зрения. В других случаях моя готовность назвать это смещение иллюзорным была значительно меньше. Работники лабораторий и фабрик, которым приходится манипулировать опасными материалами с помощью механических рук, управляющихся обратной связью, испытывают гораздо более драматическое смещение точки зрения, чем то, которое может вызвать любой фильм. Они способны чувствовать тяжесть и скользкость контейнеров, которые они держат металлическими пальцами. Они отлично знают, где находятся, и не впадают в ложные убеждения благодаря данному опыту, однако чувствуют себя так, словно находятся в изолированной комнате, куда смотрят. С некоторым мысленным усилием они способны перемещать свою точку зрения туда-сюда, словно меняя ориентацию рисунка Эшера или делая прозрачным куб Некера. Кажется странным предположить, что, занимаясь этой умственной гимнатикой. они переносят туда и обратно себя.
И все же этот пример подал мне надежду. Если бы я, вопреки своей интуиции, был в чане, я мог бы натренироваться принимать эту точку отсчета и постепенно к ней привыкнуть. Я останавливался бы на образах себя самого, с комфортом плавающего в своем чане и посылающего приказы туда, хорошо знакомому телу. Я решил, что относительная трудность или легкость этой задачи не имеют ничего общего с тем, где действительно находится мозг данного человека. Если бы я как следует потренировался перед операцией, теперь это могло быть моей второй натурой.
Теперь вы сами можете попробовать такой обманный трюк. Представьте себе, что вы написали подстрекательское письмо, которое было напечатано в "Таймс", и что в результате правительство приговорило ваш мозг к трехгодичному условному осуждению в Клинике для Особо Опасных Мозгов в Бетесде, штат Мэриленд. Разумеется, ваше тело оставлено на свободе с тем, чтобы продолжать зарабатывать деньги и бесперебойно платить налоги. Однако в данный момент ваше тело сидит в аудитории и слушает странный рассказ Дэниэла Деннетта о подобной истории, когда-то произошедшей с ним самим. Попытайтесь представить себя в Бетесде и снова вернитесь в ваше далекое тело, которое кажется таким близким. Только из-за дистанционного ограничения (вашего? или правительственного?) вы способны сдерживать желание вежливо похлопать и отправиться в комнату отдыха за заслуженным вечерним стаканом шерри. Задача, стоящая перед вашим воображением, нелегка, но если вы достигнете цели, результаты могут быть утешительными.
Дэвид Чалмерс. «Философский зомби».
«Философский зомби» – гипотетическое существо, которое неотличимо от нормального человека за исключением того, что у него отсутствует сознательный опыт, квалиа (qualia), или способность ощущать (sentience). Когда зомби, например, колет себя острым предметом, то он не чувствует боли. В то же время он ведет себя так, как будто действительно её чувствует (он может сказать «ай» и отскочить от раздражителя, или сказать нам, что он испытывает интенсивную боль), хотя у зомби фактически нет опыта боли, как у предполагаемого «нормального» человека.
Отличается ли философский зомби от человека?
Дональд Дэвидсон. Болотный человек.
Представим прогуливающегося по болоту Дональда Дэвидсона, который остановился переждать грозу рядом с сухим деревом. Ударившая молния расщепляет тело Дэвидсона на молекулы и по невероятному стечению обстоятельств создает из сухого дерева точную копию Дэвидсона.
Эта копия (назовем ее «болотный человек») покидает болото и, встречая по дороге друзей Дэвидсона, делает вид, что узнает их, и отзывается на их приветствия на английском языке. Двойник Дэвидсона заходит в его дом, и окружающим кажется, что профессор уселся за рабочий стол писать философскую статью.
Можно ли считать «болотного человека» тем же самым существом, что и Дональд Дэвидсон?