Когда полная адаптация становится ловушкой Машинное отношение, о котором предупреждал Лето II, опасно не только из-за неожиданного чувства, уводящего нас в сторону, или невозможности показать нам определенные предположения и инновационные решения. Оно разъедает нашу мораль и решительность, как индивидуально, так и в плане всего вида. В очередной раз проблема заключается в способе мышления, который использует инструменты и вызывает к ним доверие. Когда мы привыкаем к работе с машинами, имеющими определенное поведение, но с отсутствующими моральными ориентирами, становится проще видеть союзников, политических оппонентов и властные структуры как детали для использования в какой-то огромной игре. Барон Харконнен, похоже, упивался этим, как и Алия под его влиянием. Когда она хотела получить совета у машины вместо человека, она желала прямой способности к вычислению. Она хотела получить ответы без человеческого вмешательства и эмоций. Расчеты и советы редуцировались еще до одного средства. В сущности, она хотела свести интеллект к ресурсу. Здесь мы видим моральный подтекст предупреждения Хайдеггера. Технологии предлагают нам думать о людях как о чем-то менее значительном, чем они на самом деле являются. Не только их достоинства должны быть оценены в отношении пользы для нас, но и их духовный путь, мысли и эмоции будут редуцированы до того, что их логика может дать нам, и она будет рассматриваться как еще один инструмент. Учитывая правильный подход, ментаты могут давать полезные ответы, подобно древним машинам. В научно-популярном труде «Без меня ты ничто» о настоящей компьютерной революции, происходящей вокруг него, Герберт сам был не уверен в предположении, что «функции нашего мозга могут быть сведены к механическим принципам». Другие философы, например Хьюберт Дрейфус, были вдохновлены Хайдеггером в стремлении доказать, что компьютеры и другие подобные системы, полагающиеся на символы, никогда не смогут имитировать наш способ мышления и аргументации. Они доказывали, что любое количество манипуляций с символами не сможет воссоздать опыт живого существования, а сможет дать лишь похожий на человеческое мышление ответ. И даже если такое подражание превысит наши возможности, захотим ли мы, чтобы машины взяли на себя роль мышления? Даже самый просчитанный ход может быть ошибочным, как было показано джихадом в «Дюне». Ирулан была одной из первых, кто выступил против Алии, над которой нависла опасность морального разложения: «сегодня мы восстаем против решений, как восстаем против врагов, или мы бездействуем, что сродни поражению, позволяя решениям других двигать нами. Неужели мы забыли, что это мы были теми, кто задал порядок вещей?» («Дети Дюны»). Алия противилась этому. Она хотела лишь держаться у власти и сделала бы что угодно, чтобы достичь этого. Но критика Ирулан попадает точно в цель: выбрав только игру в большую политику, Алия никогда не принимала настоящих решений. Ее персональные мотивы и убеждения были проигнорированы за их непрактичность. Ее зависимость во власти политических нужд вызывает вопрос: что Алия как личность по-настоящему сделала? Были ли хоть какие-то действия ее собственными, а не продиктованными обстоятельствами? Это такая же дилемма, на которую джихад так яростно дал ответ на уровне проблемы Пряности. Даже если компьютеры всегда дают правильный ответ, то чем станем мы, если позволим им контролировать нашу жизнь? Когда на каждый вопрос найден ответ, жизнь встает на автопилот, что и произошло с Полом в «Мессии Дюны». Предостережение о Великом Восстании, о потере индивидуальности нашло свое лучшее место после активных и героических событий в Дюне. Когда круговорот событий замедляется и трон завоеван, мы вынуждены принять факты: джихад Пола был кровавым завоеванием, фримены были испорчены изнутри, а Пол в лучшем случае сомнительный герой. Его манипуляции фрименами унизили их, низвели их до состояния инструмента и в итоге лишили их гордости. Даже его брат по сиетчу Стилгар стал фанатиком: «Он был подобием человека, – выразился Пол в последней главе «Дюны». – Я видел, как друг превратился в поклонника». Вероятно, скорее всего мы узнаем, что величайшее «оружие» Пола – предвидение, это и ловушка и проклятие. Иметь видения о будущем очевидно гораздо практичнее, когда ведется война, когда нужно обыграть политического противника. Таким образом, Пол сделал лучший ход, посмотрев на будущий исход событий. Лучшие решения, лучшие действия – и так каждый раз. Кажется, Пол превзошел систему и действительно нашел «технологическое средство», которое позволило ему победить в каждом из случаев и предусмотреть все неприятные повороты. Но очевидно, что ему пришлось «оставаться на этом пути». Как только он нашел дорогу к лучшему из исходов, ему пришлось по ней следовать. Учитывая, как выбор слов и малые отклонения в действиях могут сильно повлиять на последующий путь, Пол мог чувствовать себя в безопасности, лишь строго следуя своим видениям. И когда он становился все более зависимым от Пряности, ему требовалась повышенная точность видений для следования по этому пути. Он стал зависим от того же средства, с помощью которого он манипулировал, чтобы свернуть прошлую династию. Снова разрушается иллюзия нейтральности средства, которым можно воспользоваться как беспроблемным объектом. У технологического мышления и поведения есть своя цена, которая будет скрыта от нас. Предвидение Пола выполнило свою политическую цель, но, согласно историку Бронсо с Икса, это был инструмент для пророчеств, который убил его: «Возможен лишь один ответ, что полностью точное и окончательное предсказание летально» («Мессия Дюны»). Этот же историк был убит Квизаратом из-за предположения, что Пол лишился своей человечности. Но тем не менее его дар действительно стоил ему дорого: Пол едва ли замечал, что слепнет – ведь и ранее все это окружало его. Он становился отстраненнее и мрачнее, а его жизнь становилась повторением его видений. Какой тяжелой походкой он шел, когда хотел увидеть свою дочь, зная, что доктор скажет о Чани. Лето II в конечном счете назвал это «святой скукой». Что хорошего в жизни, в которой нет неожиданностей и нет настоящих решений? По-видимому, Пол был пойман в ловушку жизни на автопилоте в такой же манере, что и те, кто существовал во времена Джихада. Даже если древние машины были идеальными и логичными советниками, они не оставляли шанса для настоящей человеческой свободы, как и не давало его предвидение Пола. В каком-то роде это проблема идеальной адаптации. Пол был в курсе всех событий во Вселенной, в силах сделать именно то, что нужно, чтобы помочь себе в любой выбранный момент. Он идеально реагировал на обстоятельства, но, поступая так, он был полностью под их контролем. Идеальный совет не оставляет нам никаких реальных опций. Во время джихада человечество решило, что самостоятельность и управление своей судьбой и ценностями важнее, чем расслабленная жизнь. Испытание на человечность Соблазн того, что какие-то технологии будущего спасут нас, несомненно, велик, будь то Мессия, что поведет нас в рай, или идеальный инструмент, который сделает наши жизни проще. Первое, чего Алия пожелала, скатываясь в безумие, было такое же могущетвенное предвидение, которым обладал ее брат. Но если об этом тщательно поразмышлять или увидеть, как это было продемонстрировано в «Дюне», подтекст «инструмента», который может управлять самой нашей жизнью, пугает. Представим, что наш мобильный телефон советует нам в любое время и безошибочно лучшее действие для всего. На какую работу устроится, какого человека пригласить на свидание или с которым скрепить себя узами брака и когда переходить улицу – все это без знания, почему тот или иной выбор правильный или практичный. Лежа на смертном одре, последовав каждому совету и без принятых собственных решений, рука, протянутая и разбивающая «компьютерный мозг», который прожил за нас всю жизнь, будет внутренним Батлерианским джихадом. Долгие годы Пола на императорском троне, когда каждая секунда была известна до того, как она наступила, представляли неподдельный ужас. В конечном счете его сын перестроил человечество на свободу от любого предвидения, создавая людей, которые были скрыты даже от него самого. Неудивительно, что схожесть между движением по пути, проложенному предвидением или сгенерированному компьютером, лучше всего была видна Лето II через его Другую память: «Люди должны выбрать свой собственный путь. Это не то, что могут сделать машины». Он стремился освободить человечество от любого сосредоточения на чем-то одном, особенно от орудия предвидения, которое было достаточно могущественно, чтобы связать человечество вместе, чтобы оно разделяло одну судьбу подобно тому, как зависимость от Пряности связала старую Империю вместе с центром на Арракисе. Все это сделано, чтобы обеспечить наше выживание и самоопределение, без которого мы не в полной мере люди, ни по отдельности, ни как вид в целом. Еще раз Герберт выворачивает героический миф наизнанку. Великий Тиран в форме гигантского червя был истинным спасителем человечества. Когда началась история возвышения Атрейдесов, Пол прошел испытание на истинное бытие человеком, и в конце Лето II тоже доказывает это, пожелав страдать за все человечество. Он остался в ловушке предвидения, чтобы самому уничтожить этот ужасный инструмент, стерев угрозу для своего рода. В том же ключе Фрэнк Герберт так же ловко переворачивает научнофантастическое клише «крутого Макгаффина», которое управляет сюжетом и спасает положение – существование такого инструмента само по себе становится угрозой! В таком случае Батлерианский джихад являлся предостережением. По традиции греческих трагедий это предостережение, которое персонажи «Дюны» не слышат, и они снова должны приходить к осознанию того, что предвидение – это опасный инструмент. Политическое предостережение Герберта не просто против простых решений, а против единственных решений. Любой однозадачный план потенциально опасен. Это не должен быть призыв луддитов избавляться от всех думающих машин до того, как они доведут наших внуков до мыслительной опустошенности и стагнации. Не должно быть это и призывом не думать наперед и не планировать завтрашний день. В книге «Без меня ты ничто» Герберт не выступал против компьютеров: «Не нужно винить наши инструменты, проблема в том, как мы их используем и какую надежду в них вкладываем». Вместо того чтобы повышать обеспокоенность компьютерами, книга предупреждает нас о том, для чего мы используем их, и настаивает на том, что ими должны распоряжаться индивиды, а не какая-то властная элита, которой доступны понимание, сила и выключатель для наших компьютеров и информации. «Дюна» побуждает нас принять во внимание ресурс, который мы вкладываем в любые технологические решения, и спросить себя, в какой момент нечто такое, как компьютер, начинает жить нашу жизнь за нас. Когда они отправляют наши письма? Когда решают уравнения? Когда планируют наше расписание? Когда говорят нам, где ближайший бар, чтобы взять пива, или в каком из них на этот раз мы вернемся в сознание? Нравственный риск думающих машин в возможности позволить им взять на себя человеческое мышление одновременно в нашей личной жизни, в культуре и в целом мире. Даже если совет был полностью правильным, у нас есть привилегия делать наши собственные суждения, от которой мы не должны отказываться. Человеческая жизнь – «не проблема, которую нужно решить, а реальность, которую нужно воспринимать» («Дети Дюны»). Феноменологическая философия соглашается с этим и подчеркивает, что человеческий способ бытия и мышления крайне отличается от машинного подражания: мы не можем заменить одно на другое без потери чего-то, что делает нас людьми. Слепо использовать экономическую формулу или экспертную компьютерную систему либо иметь гуру, которому безоговорочно доверяют, – значит делегировать часть своих умственных задач вовне себя. Передадим достаточно мыслительных процессов кому-то или чему-то другому – и мы опустошим себя. Не имеет значения свобода их политической системы, так как любая культура, которая безоговорочно следует за лидером или за любым планирующим инструментом, наукой или технологией, отдала часть своего фундаментального человеческого самоопределения. Воспоминания сделаны из Пряности Кто-то усадил ее. Она увидела старую Преподобную Мать Рамалло, которую привели, усадив рядом с ней на покрытый ковром выступ. Сухая рука коснулась ее шеи. «Внутри ее сознания была еще одна психокинестетическая сила! Джессика пыталась отстраниться от нее, но сила приближалась… все ближе… еще ближе. Они соприкоснулись! Это было похоже на предельную форму симпатии, быть двумя людьми одновременно: не через телепатию, а через взаимное сознание. Со старой Преподобной Матерью!» «Дюна» ОТ: ДАР-ЭС-БАЛАТ II ПОВОД И ДАТА: НЕИЗВЕСТНО Леди Джессика – необычный человек. Испив последний вздох, превращенный в жидкость утопленного песчаного червя, она получила прижизненные воспоминания своих предшественников. Теперь она стала окончательным звеном неразрывной цепи сознания, которая тянется к первой сайядине Ракелле Берто-Анирул. Как только что посвященная Преподобная Мать Джессика могла вспомнить мысли всех тех, кто пережил спайсовую агонию. И ее предрожденная дочь, «Мерзость» Алия, разделила с ней это сомнительное удовольствие. Она тоже теперь владела той же памятью, которая тянулась от ее родителя до первой Преподобной Матери. Джессика по вполне ясным причинам потрясена этим тяжелым испытанием. Однако некоторое утешение может настать от знания того, что тысячелетиями назад британский философ Джон Локк попробовал придать смысл ее положению. В своем «Опыте о человеческом разумении», Локк пытался понять, как именно память и сознание способствуют существованию человека. Согласно его теории о «самоидентичности», наша леди Джессика действительно была бы крайне необычным человеком. С благосклонностью Шай-Хулуда мы поймем почему. Кто этот Муад'Диб? Кто стал новым религиозным лидером на Арракисе? Суфир Хават, обращенный в рабство Хар-конненами, размышлял над этим вопросом. Атаки фрименов на Арракисе возросли, и они сплотились на клич «Муад’Диб». Суфир не смог бы догадаться и никогда бы не осмелился мечтать, что это был Пол Атрейдес, его самый способный ученик, который «делал барабаны из кожи своих врагов» (предположительно) и был известен как «Муад’Диб». Мессия фрименов – один и тот же человек, что и Пол Атрейдес. Пол Атрейдес идентичен Муад’Дибу. (Эта связь личностей не на шутку напугала Барона, когда он это выяснил.) Связь личностей не пропадает со временем. Взрослый Пол «Даже его имя – убийственное слово» Муад’Диб также идентичен молодому сыну герцога Атрейдеса, который жил на Каладане ранее. Даже если годовалый Пол совсем не был похож на более позднего Пола-Императора, мы интуитивно считаем, что они были одним и тем же человеком. Когда Локк говорит о «самоидентичности», он исследует, почему человек должен соответствовать конкретно таким-то условиям, чтобы оставаться тем же человеком. В целом мы называем их «сохраняющими условиями», потому что они определяют то, что нужно для продолжения существования во времени. Локк достаточно разумно считал, что у различных вещей различные сохраняющие условия. Некоторые вещи могут оставаться собой во времени, просто имея тот же атомный состав. Возьмем, к примеру, кольцо с печатью Атрейдесов: кольцо Лето оставалось таким же, как у Пола, пока оно было из такого же материала. Но такой подход не удовлетворяет все случаи идентичности. Обратим внимание на то, что Локк говорит о живых существах: «В случае живых существ их идентичность зависит не от множества одинаковых частиц, а от чего-то другого. Для них изменение больших объемов материи меняет не идентичность: маленький червь, выросший в Шай-Хулуда, иногда толстого, иногда тощего, остается тем же червем…» (адаптировано из его «Опыта»). Это совершенно верно, но что делает его тем же червем? Он может терять материю (производя меланжу) и набирать ее (поедая песчаный планктон), поэтому материя не важна. Локк думал о животных как о наборе органов, объединенных для выполнения определенных процессов, таких как дыхание и пищеварение. Пока организм продолжает выполнять свои функции: дыхание, перегонку крови и др., – животное остается тем же животным. Локк описывал постоянство этих процессов «участием во всеобщей жизни», которое включает в себя условия для сохранения животного. В этой связи Локк считал бы то же самое правдивым и для сохранения идентичности робота. Очевидно, он не имел ни малейшего представления, какой фантастически сложной станет робототехника (он был потрясен брелоками от часов). И до какого-то момента это не важно, так как ко времени прибытия Атрейдесов на Арракис компьютеры были запрещены на протяжении десяти тысяч лет. Но в общем для Локка машины отличаются от животных лишь в одном отношении: им требуется мотивация «извне»: их нужно заводить, программировать и включать. Жизнь животного, с другой стороны, предположительно происходит «изнутри». Мы, Бене Гессерит, просеиваем народ, чтобы найти людей Таким образом, кольца, черви и роботы кажутся (вроде бы) бесхитростными, но как насчет людей? И что насчет личностей? Вопреки нашему обычному представлению, понятия «человек» и «личность», похоже, относятся к разным вещам. (Локк писал «мужчины» вместо «люди», но так как леди Джессика не страдала от повседневного женоненавистничества, то и мы не будем его привносить). Теперь о том, что касается человеческих сохраняющих условий: конечно, люди являются частью животного мира, так ведь? Homo sapiens, если быть точным. Человеческие органы структурированы в определенном порядке, и все, кроме строения тела, такое как разумность, становится неприменимым для «человеческого рода». Если, скажем, мы встретим кого-то, кто обладает интеллектом червя, но биологически построен похожим на нас, мы бы с большей вероятностью назвали его человеком (только слегка глуповатым). Но, если мы встретим человека из Гильдии, который будет настолько же разумным (или даже разумнее), как и мы, только у него будет плавающее, округлое тело и отвисший маленький рот, это удержит нас называть его человеком. Для Локка человек был не просто понятной биологической структурой. Чтобы понять «условия для личности» Локка, рассмотрим порочного ментата Питера де Вриса, опираясь на следующие цитаты: «Видите ли, Барон, мне, как ментату, известно, когда вы пришлете палачей. Вы не торопитесь ровно до того момента, пока я полезен… Приказать слишком рано было бы расточительно, а я все еще многое могу» («Дюна»). «Человек – это думающее существо, которое обладает разумом и способностью к рефлексии и которое считает себя самим собой, таким же разумным созданием в разные времена и в разных местах. И позволяет себе оно это только из-за сознания, неотделимого от мышления и, как кажется мне, необходимого для него («Опыт» Локка). Первое цитирование представляет фрагмент одного из множеств споров Питера и Барона. Размышляя о своей собственной полезности, он мог разумно предполагать будущие действия барона Харконнена. Он полностью осознавал себя (часто в жуткой манере говоря о себе в третьем лице, когда вожделел леди Джессику). Он также думал о себе как о существе во времени. Фактически он помогает продемонстрировать условия для личности Локка (которые были упомянуты во второй цитате). Они включали в себя разум, рефлексию, осознание себя и осознание того, что мы существуем во времени. Локк считал, что сознание оказывается необходимым для всего перечисленного. Тогда люди представляют животный вид, а личности – думающих, разумных и сознательных существ. О сознании поговорим во вторую очередь, а сначала нужно прояснить позицию Сестричества. Ведьмы Бене Гессерит настроены против идей Локка, как минимум в их манере выражаться. Они считали, что «народ» относится к животному виду, а «человек» относится к думающему и сознательному существу. В этом и был смысл испытания Гом Джаббаром – отделение особых людей от обычного народа. С другой стороны, по Локку, Преподобная Мать Гайя Елена Мохийам должна была сказать: «Мы, Бене Гессерит, просеиваем людей, чтобы найти народ». Не наоборот, отродье ведьмы! Теперь перейдем к определению того, что такое сознание. Этот концепт настолько же скользкий и сложный в поиске смысла, как и охотник-искатель в гравитационном поле. Философы пишут очень сложные трактаты, посвященные пониманию значения сознания. Для наших целей нам нужно только понять суть того, что Локк говорил о сознании: это мои мысли и мое осознание того, что эти мысли мои, что они принадлежат «моей личности», которая существует во времени. Самоидентичность заключена в этом сознании и, следовательно, человек остается тем же человеком, пока имеет такое же сознание: «Насколько это сознание может простираться на любое из прошлых действий или мыслей, настолько и простирается идентичность человека; это та же личность, что и была тогда». Несмотря на то что он писал это несколько сотен лет назад, Джон Локк артикулировал крайне весомую теорию о личности (глава «Гхола шанса» этой книги также рассматривает теорию Локка). Его идеи все еще влияют на наше представление о личности сегодня. Выражение, что сознание (включающее в себя осознание себя и рациональность) составляет сущность бытия человеком, имеет сильную интуитивную привлекательность. А протяженное сознание определяет человека, остающегося собой на протяжении времени. Теперь нам становится понятна важность памяти. «Протяженное сознание» звучит элегантно, но на базовом уровне это то, что мы испытываем, когда вспоминаем прошлые действия. Когда Пол вспоминал отправление с Кала-дана (огромные хайлайнеры, тяжелая рука отца на его плече), он осознавал себя тем же человеком, что и был тогда – один поток сознания связывал их. Это способ протяжения одной вещи сквозь время.