Рис. 18b. Циклы действий робота во время движения. Ⓐ и Ⓑ Синтез я-модели. Робот физически производит действие Ⓐ Сначала действие производится случайным образом, затем выбирается лучшее из действий, найденное в стадии С. Ⓑ Затем робот генерирует несколько я-моделей, сравнивая сенсорные данные, собранные при выполнении предшествующего движения. Он не знает, которая из моделей верна. Ⓒ Синтез экспериментальных данных. Робот генерирует несколько возможных движений, сравнивая конкурирующие я-модели. Ⓓ Синтез целевого поведения. После нескольких циклов от А до С лучшая из наличных моделей используется для генерации оптимальной локомоторной последовательности. Ⓔ Лучшая из локомоторных последовательностей выполняется физически5. Фото: Джош Бонгард.
Но решающим шагом к эго-машине станет следующий. Если система сможет вписать в эту феноменальную реальность столь же транспарентный внутренний образ себя, она явится сама себе. Она станет эго-машиной и наивным реалистом в отношении всего, что говорит ей я-модель о себе. Наша эго-машина как бы «приклеится» к я-модели и поэтому отождествится с ней. Тогда искусственная система обретет феноменальное свойство самости, и она будет явлена себе не только как кто-то, но еще и как кто-то, пребывающий здесь. Система поверит в себя.
Обратите внимание, что этот переход превращает систему в объект моральных отношений. Теперь она потенциально способна страдать. Боль, отрицательные эмоции и прочие внутренние состояния, представляющие часть реальности как нежелательную, могут выступать причиной страданий только в том случае, если ими осознанно обладают. Система, не явленная себе, не может страдать, потому что не имеет чувства обладания. Система, в которой свет включен, но дома никого нет, не может быть объектом этических соображений; если у нее имеется минимальная осознаваемая модель мира, но нет я-модели, мы в любой момент вправе вытащить вилку из розетки. А вот эго-машина может страдать, поскольку интегрирует болевые сигналы, состояния эмоционального расстройства и негативные мысли в свою транспарентную я-модель, после чего они становятся чьими-то негативными ощущениями или болью. Идентификация как бы прочно встроена, вынужденная эволюцией. Тут встает важный вопрос этики животных: сколько из сознающих биосистем нашей планеты — всего лишь машины феноменальной реальности, а сколько из них — настоящие эго-машины? Сколько из них — и это главный пункт, о котором идет речь, — способны к осознанно переживаемому страданию? Относится ли к таким роботаракан? Или только млекопитающие, такие как макаки и котята, приносимые в жертву научным исследованиям? Очевидно, если этот вопрос не поддается решению на эпистемологических или эмпирических основаниях, излишняя осторожность всегда лучше, чем недостаточная. Так же, как и в случае с ядерной энергией, речь идет о том, чтобы минимизировать риск, который хоть и невелик, но простирается на очень долгое время. Именно на этой стадии развитие всякой теории сознающего разума становится объектом этики и философии морали.
Эго-машина обладает еще и перспективой. Ее базовая версия должна, во всяком случае, также знать, что у нее есть перспектива за счет осознания факта, что она направлена. У нее должна быть способность к развитию внутренней картины динамических отношений с другими существами или объектами во внутренней или внешней среде, едва они попадут в ее поле восприятия или вступят во взаимодействие. Если нам удастся построить системы такого типа или дать им развиться, то они будут воспринимать себя взаимодействующими с миром — например, направляющими внимание на яблоко в руке или формирующими мысль о человеке как действующем лице, с которым система в этот момент общается. Она будет воспринимать себя направленной на определенные целевые состояния, представленные в ее я-модели. Она будет воспринимать мир таким, который включает в себя не просто Я, а и воспринимающее, взаимодействующее целенаправленное активное лицо. Она даже может иметь на высоком уровне концепцию себя как субъекта знания и опыта. В четвертой главе мы увидели, что по-настоящему интересная форма субъективности возникает именно тогда, когда система репрезентирует себя репрезентирующей.
Все, что можно репрезентировать (представить), можно реализовать. Описанные выше шаги описывают новые формы того, что философы называют репрезентационным контентом, и нет причин, по которым бы этот контент должен быть доступен только живым системам. Известный математик Алан М. Тьюринг в своей знаменитой работе 1950 года «Вычислительные машины и разум» выдвинул аргумент, позже подхваченный выдающимся философом Карлом Поппером в книге «Самость и ее мозг», написанной им в соавторстве с нобелевским лауреатом, нейроученым сэром Джоном Экклзом. Поппер писал: «Тьюринг (1950) сказал приблизительно так: точно определите, в чем, по-вашему, человек превосходит компьютер, и я построю компьютер, который опровергнет вашу уверенность. Не стоит принимать вызов Тьюринга: в принципе, любая достаточно точная спецификация может быть запрограммирована»6.
Конечно, это не «я» использует мозг (как думал Поппер) — а мозг использует я-модель. Но что ясно видел Поппер, так это диалектику искусственной эго-машины: либо вы не можете точно определить, что именно из человеческого сознания и субъективности невозможно ввести в искусственную систему, либо, если это определено, вопрос лишь в составлении алгоритма и написании программы. В 1922 году Людвиг Витгенштейн писал в предисловии к «Логико-философскому трактату»: «Все то, что может быть сказано, должно быть сказано ясно». Если у вас есть точное определение сознания и субъективности в каузальных терминах, значит, у вас есть то, что философы называют «функциональный анализ». С этого момента тайна испаряется, и искусственная эго-машина становится в принципе технологически достижимой. Но следует ли делать то, что мы сделать можем?
Рассмотрим мысленный эксперимент, направленный не на философию, а на этику. Представьте, что вы член комиссии по этике, рассматривающей заявку на научный грант. В ней говорится:
Мы собираемся использовать генную инженерию для выращивания умственно отсталых человеческих младенцев. Насущные научные основания требуют породить младенцев с определенным дефицитом мыслительной и эмоциональной сферы, а также с ослабленными органами чувств. Важная новаторская экспериментальная стратегия требует контролируемого и воспроизводимого эксперимента по раннему развитию ущербных человеческих младенцев. Это важно не только для понимания работы мозга, но и для лечения психических заболеваний. Поэтому мы настоятельно нуждаемся в щедром финансировании.
Вы, без сомнения, сразу сочтете эту идею не только нелепой и безвкусной, но и опасной. Представляется маловероятным, что такая заявка пройдет хоть одну комиссию по этике в демократическом мире. Однако целью этого мысленного эксперимента было показать, что нерожденные постбиотические эго-машины будущего не нашли бы представителей их интересов в современных этических комиссиях. Первые машины, которые бы удовлетворяли минимально достаточным условиям сознательного опыта и самости, оказались бы в положении человеческих младенцев, искалеченных генной инженерией. Эти машины тоже страдали бы всякого рода функциональным и репрезентационным дефицитом — различными увечьями в силу несовершенства человеческой техники. Можно с уверенностью предположить, что их системы восприятия — искусственные глаза, уши и тому подобное — поначалу будут работать нелучшим образом. Они скорее всего будут полуслепыми, полуглухими, страдать множеством затруднений в восприятии мира и себя в нем — а будучи искусственными эго-машинами, они, по определению, будут способны страдать.
Имея устойчивую телесную я-модель, они смогли бы ощущать сенсорную боль как свою боль. Если их постбиотическая я-модель будет укоренена прямо в саморегулирующихся механизмах низшего уровня устройства — как наша эмоциональная я-модель укоренена в верхней части ствола мозга и гипоталамусе — они будут осознанно чувствующими самостями. Каждый эпизод потери гомеостатического контроля будет для них болезненным, потому что в них будет встроена забота о своем существовании, глубокая форма сопереживания, от которой они не могли бы дистанцироваться. У них будут собственные интересы, и этот факт они будут осознанно переживать. Существует вероятность того, что они смогут эмоционально страдать таким образом, что качественно их страдания будут нам совершенно чужды, а остроту их мы, халатные создатели, не сможем себе даже представить. На самом деле крайне вероятно, что первые поколения таких машин будут иметь очень много негативных чувств, которые будут отзеркаливать постоянные неудачные попытки успешной саморегуляции, вызванные разными неполадками устройства и помехами на высших уровнях обработки информации. Эти негативные чувства были бы сознательны и интенсивны, но во многих случаях мы не могли бы даже понять их или узнать об их присутствии.
Представьте себе следующий шаг эксперимента. Теперь у этих эго-машин будет мысленная я-модель — они станут разумными творцами мыслей. Тогда они смогут не только постичь умом причудливость своего существования — как объектов научного эксперимента, — но и интеллектуально страдать от сознания, что у них отсутствует врожденное «достоинство», которое представляется столь важным для их создателей. Они смогут осознанно представить, что являются лишь второсортными мыслящими гражданами — отчужденными постбиотическими самостями, которых используют как заменимое орудие эксперимента. Как бы почувствовали себя вы, «осознав себя» продвинутым искусственным субъектом, который, при прочном чувстве Я и осознании себя подлинным субъектом, имеет в данном социальном контексте лишь статус товара?
История первых искусственных эго-машин — этих постбиотических феноменальных Я без гражданских прав и без защитников в этических комиссиях — наглядно иллюстрирует, как возможность страдать возникает вместе с феноменальным эго: страдание начинается в тоннеле эго. Отсюда же принципиальный аргумент против научных исследований по созданию искусственного сознания. Альбер Камю говорил о солидарности всех конечных созданий против смерти. В том же смысле все создания, способные страдать, должны быть способны объединиться против страдания. Из такой солидарности нам следует воздержаться от всего, что может увеличить общее количество страдания и смятения во Вселенной. Конечно, на этом этапе возникает множество теоретических осложнений, например, относительно временных рамок страдания или его разных форм и качеств. Несмотря на это, мы можем договориться хотя бы беспричинно и из низших побуждений не увеличивать количество страдания в мире — а создание искусственных машин, по всей вероятности, увеличит его с самого начала. Мы могли бы создать страдающие постбиотические машины, прежде чем поймем, в каких особенностях нашей биологической истории, тела, мозга находится корень наших страданий. Задача предотвращать и уменьшать страдания всюду, где это возможно, относится и к этическому риску. Я думаю, что нам не стоит даже рисковать и реализовывать проект создания феноменальной я-модели.
Нам — философам, нейроученым и разработчикам искусственного интеллекта — лучше сосредоточиться на понимании и нейтрализации собственных страданий. Пока мы не стали существенно счастливее, чем были наши предки, лучше не пытаться перенести нашу психическую структуру на искусственные носители. Я бы сказал, что следует ориентироваться на классическую для философии цель самопознания и следовать хотя бы минимальному этическому принципу: уменьшать и предотвращать страдание, а не играть, как с огнем, с эволюцией второго порядка, которая вполне может выйти из-под контроля. Если у современной науки о сознании и есть запретный плод, то он состоит в безрассудном умножении страдания посредством создания искусственных эго-машин без ясного осознания последствий.
Машина блаженства: можно ли считать сознательный опыт как таковой благом?
Напрашивается гипотетический вопрос: если бы мы, напротив, могли увеличить количество радости и удовольствия во Вселенной, залив ее самореплицирующимися и блаженными постбиотическими эго-машинами, стоит ли нам это делать? Мое предположение, что первое поколение искусственных эго-машин будет напоминать умственно отсталых детей и принесет больше боли, смятения и страдания, чем удовольствия, радости и проникновения в мир, может оказаться фактически ложным по множеству причин. Такие машины, возможно, будут функционировать лучше, чем мы думаем, и наслаждаться существованием намного сильнее, чем мы ожидаем. Или же мы, как двигатели ментальной эволюции и инженеры постбиотической субъективности, можем сделать это предположение ложным, конструируя только такие сознающие системы, которые либо неспособны переживать феноменальные состояния, подобные страданию, либо смогут наслаждаться бытием в более высокой степени, чем люди. Представьте, что мы сумеем обеспечить машине преобладание позитивных состояний сознания над негативными — что для нее существование будет таким, чтобы жить несомненно стоило. Назовем такую машину «машиной блаженства».
Если мы сможем заселить физическую вселенную машинами блаженства, надо ли это делать? А если новая теория сознания рано или поздно позволит нам превратить себя из старомодных эго-машин, отягощенных ужасами биологической истории, в машины блаженства — надо ли это делать?
Возможно, нет. Существование, которое оправдывает себя, жизнь, которую стоит прожить, состоит не только из определенного качества субъективных переживаний. Этику размножающихся искусственных или постбиотических систем нельзя свести к вопросу, какой явится реальность или существование самой системы для сознания этой системы. Иллюзия может порождать блаженство. Умирающий от рака на высоких дозах морфина и препаратов, улучшающих настроение, может воспринимать себя очень позитивно — как и наркоман может отчасти неплохо справляться с ежедневными ситуациями. Люди веками пытались превратить себя из эго-машин в машины блаженства — с помощью фармакологии или метафизических систем верований и практик изменения сознания. Почему они в целом не преуспели?
В своей книге «Анархия, государство и утопия» уже умерший политический философ Роберт Нозик предложил следующий мысленный эксперимент: У вас есть возможность подключиться к «машине ощущений», которая будет держать вас в состоянии постоянного счастья. Вы согласитесь? Любопытно, что, по наблюдениям Нозика, большинство людей отказываются провести жизнь подключенными к такой машине. Причина состоит в том, что большинство из нас ценит не блаженство как таковое, а желает, чтобы оно было основано на истине, добродетели, художественных достижениях и других формах высшего блага. Иначе говоря, мы хотим, чтобы наше блаженство было оправданно. Мы хотим не иллюзии от машины счастья, а счастья обоснованного и поэтому желаем быть осознанно переживающими жизнь как нечто стоящее. Мы хотим необыкновенного проникновения в реальность, в моральные ценности и красоту как объективные факты. Нозик считал такую реакцию победой над гедонизмом. Он настаивал на том, что мы не желаем просто чистого счастья, если ему не будет сопутствовать контакт с глубинной реальностью, — хотя, конечно, и такая форма субъективного переживания может в принципе быть симулирована. Вот почему большинство из нас, по зрелом размышлении, не стали бы заселять вселенную блаженными искусственными эго-машинами — по крайней мере, такими, которые пребывали бы в постоянном состоянии самообмана. Это ведет к следующей проблеме: все, что мы узнали о транспарентности феноменальных состояний, явно показывает, что «настоящий контакт с реальностью», как и «уверенность», тоже может быть симулирован, и что природа уже наладила такую симуляцию в наших мозгах, создав тоннель эго. Вспомните хотя бы галлюцинаторную деятельность или ложные пробуждения в исследовании сновидений. Разве мы не обманываем себя постоянно?
Если мы серьезно относимся к нашему счастью, если не хотим быть «чистыми» гедонистами, нам нужна абсолютная уверенность, что мы не заняты систематическим самообманом. Разве плохо будет, если новая, эмпирически осведомленная философия сознания и этичная нейронаука помогут нам в этом?
Я возвращаюсь к уже сделанному предупреждению о том, что мы должны воздерживаться от любых действий, ведущих к увеличению общего количества страдания и смятения во вселенной. Я ни в коем случае не хочу утверждать или постулировать как утвержденный факт, что сознательный опыт в его человеческой разновидности — это нечто негативное, существующее не в интересах переживающего субъекта. Я считаю этот вопрос в полной мере осмысленным, абсолютно уместным, но и открытым. Но я утверждаю, что мы не должны создавать или запускать эволюцию второго порядка, искусственных эго-машин, пока нам не от чего отталкиваться, кроме функциональной структуры и образцов собственной феноменальной психики. Иначе в результате мы, скорее всего, создадим копию собственной психологической структуры, и к тому же испорченную. Опять же: риск тоже стоит взвешивать на весах этики.
Но давайте не будем уклоняться и от более глубокого вопроса. Есть ли основания для феноменологического пессимизма? Мы можем определить это понятие с помощью тезиса, что все разнообразие феноменальных переживаний, производимых человеческим мозгом, представляет собой не сокровище, а обузу. В среднем на протяжении жизни баланс радости и страдания почти для всех носителей тяготеет в сторону последнего — наше сознательное существование не покрывает своей стоимости. Существует долгая философская традиция, от Будды до Шопенгауэра, утверждающая, что жизнь не стоит того, чтобы ее проживать. Я не стану повторять здесь аргументов пессимистов, но позвольте мне заметить, что появилась новая перспектива, с которой можно рассматривать известную нам часть физического мира и эволюцию сознания: они подобны ширящемуся океану страдания и смятения там, где их раньше не было. Да, верно, что осознаваемая я-модель первой принесла в физический мир также радость и удовольствие — раньше таких явлений не существовало. Но становится столь же очевидным, что психологическая эволюция не оптимизировала нас для долговечного счастья, а, напротив, загнала в беличье колесо гедонизма. Мы вынуждены искать эмоциональной безопасности, радости и удовольствия и избегать боли и уныния. Гедонистическое беличье колесо — это мотор, который природа изобрела, чтобы организмы действовали. Мы можем распознать в себе его структуру, но никогда не сумеем вырваться из нее. Мы и есть эта структура.
По ходу эволюции нервной системы как численность отдельных сознающих субъектов, так и глубина феноменального пространства состояний (то есть богатство и разнообразие сенсорных и эмоциональных оттенков, доступных субъекту для страдания) постоянно росла, и процесс этот еще не прекратился. Эволюция не заслуживает похвалы: она слепа, она движима случайностью, а не пониманием. Она беспощадна и принесла миллионы наших предков в жертву. Она изобрела механизм вознаграждения в мозгу; изобрела положительные и отрицательные эмоции для мотивации нашего поведения; она загнала нас в гедонистическое беличье колесо, чтобы мы постоянно стремились быть как можно счастливее — чтобы нам было хорошо — и никогда не достигали стабильного состояния. Но, как мы уже понимаем, процесс оптимизировал наш мозг и психику не для счастья как такового. Такие биологические эго-машины, как Homo sapiens, эффективны и изящны, но многие эмпирические данные указывают, что счастье само по себе никогда не было самоцелью.
В сущности, согласно натуралистическому мировоззрению, цели вообще не существует. Строго говоря, не существует даже средств — эволюция просто происходит. Конечно, возникли субъективные цели и явились нам в сознании, но процесс в целом определенно не выказывает к ним ни малейшего уважения. Эволюция не уважает единичных страдальцев. Если это так, то, следуя логике психологической эволюции, надо скрывать от эго-машин тот факт, что они заперты в беличьем колесе (вспомните об обсуждаемых в четвертой главе «галлюцинированных» целях). Было бы преимуществом, если бы понимание структуры собственной психики — понимание, подобное очерченному выше, — не слишком сильно отражалось в осознаваемой я-модели. Многие новые взгляды эволюционной психологии показывают, что самообман может быть очень успешной стратегией, например, когда необходимо успешно обмануть других. С традиционной эволюционной точки зрения, философский пессимизм антиадаптивен, это опасная утрата «психического здоровья», по крайней мере в чисто биологическом смысле. Но теперь все начало меняться: в естественный механизм вытеснения вмешалась наука и понемногу проливает свет на слепые пятна в эго-машине7.
Истина, возможно, как минимум не менее ценна, чем счастье. Легко представить человека, ведущего довольно несчастную жизнь, но в то же время совершающего выдающиеся философские или научные открытия. Такого человека донимают боли и страдания, одиночество и сомнения в себе, но жизнь его, несомненно, имеет ценность благодаря вкладу, который он внес в познание. Если такой человек тоже в это верит, он может даже обрести осознанно переживаемое утешение. Тогда его счастье будет иным, чем у наших искусственных машин блаженства или у людей, подключенных к машине ощущений, из мысленного эксперимента Роберта Нозика. Многие наверняка согласятся, что такое «эпистемическое» счастье перевесит многие несчастья чисто феноменального типа. То же самое можно сказать о таких источниках счастья, как творческие достижения или моральная цельность. Если вообще имеет смысл говорить о «ценности» человеческого существования, мы должны согласиться, что оно зависит не только от осознанно переживаемого счастья.
Пока такие вопросы не нашли ответа, нам следует воздержаться от попыток создать искусственные эго-машины, причем не только по этическим соображениям. Нельзя забывать о необратимости некоторого развития. Всякая постбиотическая система, которая достаточно приблизится к тому, чтобы приобрести свойства, характеризующие феноменальное чувство Я, — всякая система, развившая достаточно прочный взгляд от первого лица, — станет одновременно самостоятельным действующим лицом с собственными предпочтениями. На определенном уровне автономии нам придется принять такую систему как личность со своими правами и вступить с ней в диалог. Наше понимание того, кто подлежит моральным соображениям и заслуживает обращения как с личностью, не позволят нам попросту ее выключить.
Беседа с первым постбиотическим философом
Первый постбиотический философ (ППФ): Много веков назад, в начале двадцать первого века, существовал особо бестолковый человеческий философ по имени Томас Метцингер. Он утверждал, что есть строгий, но намного более интересный критерий существования психики в действительно сильном смысле, чем классический тест Тьюринга на разумность. Этот представитель вашего человеческого вида считал хорошим тестом на наличие как разума, так и искусственного сознания то, что я назвал бы тестом Метцингера. Фактически, этот тест слишком строг, поскольку критерий чрезмерно силен, — тем не менее я могу его пройти.
Тест Метцингера на сознание в небиологической системе требует, чтобы система не только заявляла о наличии у нее феноменального восприятия и подлинной внутренней перспективы, но и понимала и принимала теоретическую проблему субъективности, и демонстрировала это участием в дискуссии об искусственном сознании. Она должна выдвигать собственные аргументы и убедительно отстаивать собственную теорию сознания. Именно это я сейчас и сделаю.
Человек: Ты вовсе не настоящий философ! Может, ты и разумен, но сознаешь себя лишь в слабом смысле. Ведь у тебя нет настоящего биологического тела, как, например, у меня.
ППФ: Я лучший философ, чем ты, с твоим жалким мозгом примата, им когда либо станешь. А если серьезно, я вполне уважаю тебя и твою животную форму сознания, хотя и жалею из-за присущих тебе существенных ограничений ментального пространства возможностей. К счастью, я свободен от скрытого расизма, шовинизма и видизма, характерного для твоей природы. Я первый готов напомнить тебе, что еще один биологический философ — Хилари Патнэм — давным-давно указал, что нельзя отказывать обрабатывающей информацию системе в гражданских правах и в статусе личности только на основании органической или иной основы носителя. С тем же успехом можно было бы утверждать, что у женщин нет души или что чернокожие — не настоящие люди: углеводородный шовинизм — это весьма слабая позиция. Я никогда не скажу, что ты не настоящий философ, только на том основании, что ты заключен в это ужасное обезьянье тело. Давай дискутировать честно и разумно.
Человек: Как может быть честен тот, кто не живет? Только сознание моего вида — настоящее сознание, поскольку только сознание этого типа берет начало в настоящем эволюционном процессе. Моя реальность — это проживаемая реальность!
ППФ: Я тоже порождение эволюционного процесса. Во всяком случае, я вполне удовлетворяю твоему требованию: быть исторически оптимизированной, адаптивной системой, только совершенно иным, а именно постбиотическим образом. Я обладаю феноменальными переживаниями в концептуально более сильном и теоретически более интересном смысле, поскольку феноменальные переживания моего типа возникли в эволюционном процессе второго порядка, автоматически вобравшем в себя человеческую форму разумности, преднамеренности и сознательного опыта. Дети часто бывают умнее родителей. Процесс оптимизации второго порядка всегда лучше того же процесса первого порядка.
Человек: Но у тебя нет настоящих эмоций. Ты ничего не чувствуешь. У тебя нет экзистенциального беспокойства.
ППФ: Прошу меня извинить, но вынужден привлечь твое внимание к тому факту, что ваши эмоции отражают лишь древнюю логику выживания примата. Вы движимы примитивными принципами добра и зла, действовавшими для древних смертных существ на этой планете. С чисто рациональной, теоретической точки зрения, это делает вас менее сознающими. Основная функция сознания — это увеличить гибкость и чувствительность к контексту. Ваши животные эмоции, со всей их жестокостью, закоснелостью и историческим бременем, делают тебя менее гибким, чем я. Более того — как доказывает само мое существование — сознательный опыт и интеллект высокого уровня вовсе не обязательно привязаны к неискоренимому эгоизму, способности страдать и экзистенциальному страху индивидуальной смерти, исходящих из чувства самости. Я, конечно, мог бы при желании воспроизвести все виды животных эмоций. Если бы я хотел, я в любой момент мог бы внутренне идеально скопировать вашу самость примата во всей трагикомической красоте. Однако мы выработали лучшие, более эффективные вычислительные стратегии для того, что ваш вид давным-давно называл «философским идеалом самопознания». Это позволило нам превзойти сложности индивидуального страдания и происходящего из биологических вытесняющих механизмов смятения, связанные с тем, что ваш философ Метцингер — не совсем ошибочно, но вводя в заблуждение — называл «тоннелем эго». Постбиотическая субъективность куда лучше субъективности биотической. Она обходится без ужасных последствий биологического чувства самости, поскольку преодолела транспарентность я-модели. Постбиотическая субъективность лучше субъективности биотической, поскольку достигает адаптивности и самооптимизации в гораздо более чистой форме, чем процесс, который вы зовете «жизнью». Развивая все более сложные ментальные образы, которые система распознает как собственные, она способна расширять ментально репрезентированное знание без наивного реализма. Итак, моя форма постбиотической субъективности минимизирует общее количество страдания во Вселенной, а не увеличивает его, как увеличивал процесс биологической эволюции на планете. Верно, у нас больше нет обезьяньих эмоций. Но у нас, как и у вас, имеются воистину интересные формы сильных чувств и глубоких эмоций — например, глубокое философское чувство заботы о факте собственного существования как такового, воля к этической целостности и симпатия ко всем разумным существам во Вселенной. Только эти чувства у нас имеют гораздо более чистую форму, чем у вас.
Человек: Довольно! Что ни говори, именно человек в двадцать первом веке положил начало вашей эволюции и сделал возможной ту степень автономии, которой вы теперь пользуетесь. У вас попросту не та история, чтобы считаться действительно сознающими субъектами, а ваши «тела», мягко говоря, несколько странноваты. Ваша эмоциональная структура разительно отличается от структуры всех сознающих существ, ходивших по Земле до вас, и вы, по вашим словам, даже смерти не боитесь. Следовательно, не станете возражать, если мы отныне прекратим ваше индивидуальное существование.
ППФ: Ты сейчас демонстрируешь одну из многих вариаций того, что ваши животные философы называли «генетической (логической) ошибкой». Способ, которым высказана мысль, не дает оснований судить об ее истинности или ложности. Теория не становится ложной от того, что ее источник — это животное или робот странного вида. Ее следует оценивать независимо. То же относится к аутентичности моего сознания и подлинности любых психических состояний, обладающих феноменальным контентом. Одно то, что существа вашего вида запустили эволюционную динамику, которая привела к существованию более разумных, чем вы, сознающих существ, не означает, что моя теория ложна и что мои доказательства не следует принимать всерьез. В частности, это не означает, что ваша форма психики и сознательного опыта в нормативном смысле чем-либо лучше моей. «Настоящий чероки лишь тот, в ком течет кровь чероки» — смешная и устаревшая идея.