– Технически не «видистка». Неандертальцев обычно относят к другому виду рода Homo, но, может, это потому, что мы сами немного видисты. В любом случае, если кому-то нужен теологический аргумент, что неандертальцы тоже люди, – мы рады его предоставить! Впрочем, может, все дело в том, что гены неандертальцев слишком похожи на наши. Но самое интересное открытие мы сделали чуть позже, когда удалось заключить, что Ви Джас пользуется программой BLASTn, а не BLASTp. – Что это значит? – BLASTn – популярная у биоинформатиков программа. Ученые используют ее, чтобы сравнивать последовательности ДНК. BLAST означает Basic Local Alignment Search Tool (средство поиска основного локального выравнивания), а «n» означает нуклеотиды – буквы в ДНК. BLASTp ищет сходство между белками («p» – protein, белок). Программы ищут сходство между несколькими последовательностями нуклеотидов или аминокислот, из которых состоят белки. Геном человека полностью прочитан. Это означает, что последовательность букв «А», «Т», «Г», «Ц», представляющая нашу ДНК, может быть размещена, например, на флешке. Аналогично с геномами других животных. Мы можем взять любой участок генома человека и использовать BLASTn, чтобы найти схожие последовательности ДНК в геноме мыши, кошки или кого-то еще. Это равнозначно поиску в Microsoft Word, с той разницей, что BLAST ищет не только полные совпадения, но и последовательности с ошибками – заменами. BLASTp делает то же самое, но с ее помощью можно сравнить человеческий белок с базой данных мышиных, кошачьих или еще чьих-нибудь белков. Такие базы данных доступны для уймы видов. Используя генную инженерию, вы можете создать ген, который очень сильно отличается от оригинального, но кодирует абсолютно идентичный белок. Это связано с так называемой «вырожденностью генетического кода»: разные комбинации нуклеотидов в ДНК могут кодировать одни и те же аминокислотные последовательности белков. Мы использовали этот принцип организации жизни, чтобы создать линию червей с «нечеловеческим» геном, кодирующим человеческий белок. Иными словами, программа BLASTp нашла бы 100 % сходства с известным человеческим белком. А вот программа BLASTn – лишь 70 %. Если Ви Джас ищет у червей человеческие белки, то она сочтет такого червяка гуманизированным. Но оказалось, что это так не работает. Ви Джас все равно, есть ли у червя человеческий белок. Ей нужна человеческая последовательность ДНК. Поэтому мы и пришли к шуточному выводу, что «Бог пользуется BLASTn, а не BLASTp». Но сами эксперименты вполне настоящие, а результаты весьма интригующие. – А почему из этого следует, что аналитика Ви Джас посредственна? – Дело в том, что установить человеческое происхождение вставленного участка ДНК можно было и с 25, и с 50 нуклеотидными заменами от мышей. Ви Джас допускала некоторые вариации в человеческом гене, но в этих случаях не справлялась. – Может, ей плевать. – Может, и так. – Многие люди сочли бы странным ваше предположение, что природа делает какой-то криминалистический или геномный анализ мертвых животных. – Это правда. Мы получили множество комментариев по поводу нашей статьи, опубликованной в BMC Bioinformatics. С нами дискутировали биологи, физики, философы и специалисты в области информационных технологий. Доктор Дрейк написал довольно критичный и эмоциональный ответ на нашу статью с игривым заголовком «Бог не играет в BLAST». И знаете, его предложения оказались довольно разумными. – И в чем они заключались? – Давайте вспомним, как ДНК кодирует белки. Последовательности нуклеотидов логически разбиваются на трехбуквенные кодоны, такие как АТГ, ГТТ, ААЦ, ААТ и так далее. Каждый кодон кодирует аминокислоту будущего белка. В данном случае АТГ кодирует метионин, ГТТ – валин, а ААЦ и ААТ – аспарагин. Помните, я говорил про вырожденность генетического кода? Два разных кодона, кодирующих одну и ту же аминокислоту, вот это оно и есть. Теперь представим, что мы добавим одну букву А после первого кодона. Было АТГ ГТТ ААЦ ААТ – стало АТГ АГТ ТАА ЦАА Т. Все кодоны после первого изменились. Это называется мутацией «фрейм-шифт», или мутацией сдвига рамки считывания. Наш умный и скептичный оппонент предложил проверить человеческий ген с такой мутацией. Фрейм-шифтовые мутации почти не меняют нуклеотидную последовательность гена, поэтому BLASTn найдет почти полное совпадение. Но белок окажется абсолютно другим, скорее всего, неработающим. И BLASTp ничего не обнаружит. Еще один способ испортить закодированный белок – добавить преждевременный стоп-кодон: ТГА, ТАГ или ТАА. Синтез белков на таких кодонах заканчивается. Если стоп-кодон появится в начале гена, вы получите обрезанный, неработающий белок. А теперь я перефразирую Чехова: «Если вы говорите о ДНК и упоминаете стоп-кодон, он должен непременно испортить белок». Так получилось, что в примере мутации «фрейм-шифт», который я привел, третий кодон стал стоп-кодоном ТАА. Такое запросто может случиться в реальной жизни. Мы сравнили эффект от трех типов гуманизированных жертвоприношений червей с тремя вариантами еще одного человеческого гена: с мутацией «фреймшифт», ведущей к преждевременному стоп-кодону, без нее и просто с преждевременным стоп-кодоном. Все три типа работали одинаково хорошо по сравнению с контролем, где использовался мышиный ген. Так мы убедились, что Бог и правда использует BLASTn. Конечно, это все еще шутка, но она отражает то, что когда речь идет о гуманизированных жертвоприношениях, белки не имеют значения, а вот нуклеотидные последовательности человека почему-то важны. – Вы опубликовали эти результаты? – Не сразу! Нам предстояло поставить еще один важный эксперимент. Мы не хотели, чтобы результаты, полученные с последним набором генов, подверглись эффекту инверсии. Нас интересовало, что же все-таки такое человек в глазах Ви Джас. И каково ее определение смерти. – Что вы имеете в виду? – Мне потребуется сделать небольшое лирическое отступление. Я горжусь тем, что мы придумали сделать дальше. К тому моменту компания Google выпустила свое последнее достижение в области искусственного интеллекта (ИИ). Программа называлась РКК – в честь нейробиолога Родриго Киан Кироги, который недавно получил Нобелевскую премию за открытие в мозге человека «клеток концепций» и объяснение того, что такое «поток сознания». Мозг – это нейронная сеть, которая ритмически переходит от одной комбинации активных нейронов к другой. Понятия и концепции, о которых мы думаем и рассуждаем, например «человек», «красное», «яблоко» или «Дарт Вейдер», представлены подобными скоординированными ансамблями. Концепции, которые в результате накопленного жизненного опыта мы стали ассоциировать друг с другом, например «море» и «пляж», кодируются перекрывающимися и взаимосвязанными комбинациями подобных групп нейронов. Поэтому мысли о море легко уводят нас к фантазиям о пляже. Часть нейронов, которые должны включиться, чтобы мы задумались об одном из этих понятий, уже активна, когда мы мечтаем о втором. Таким образом, ассоциации между концепциями кодируются через физическое перекрытие нейронных подсетей, которыми они представлены в мозге. Разумеется, я сейчас все сильно упрощаю. Так или иначе, мы умеем создавать виртуальные нейронные сети с очень похожей архитектурой. Один из подходов называется глубоким обучением – он включает создание многослойных иерархических нейронных сетей, которые анализируют большие массивы данных. Слои более высокого уровня учатся представлять все более сложные и абстрактные концепции, закономерности или взаимодействия между ними. Примерно так же человеческий мозг обрабатывает зрительную информацию: на самом низком уровне отдельные клетки сетчатки активируются фотонами, излученными или отраженными от пейзажа перед нашими глазами. Эти клетки передают информацию на следующий уровень. Там находятся нервные клетки, которые представляют простые концепции, такие как края, движущиеся границы, контраст, затемнение и тому подобное. Информация от этих клеток объединяется в клетках более высокого иерархического уровня, представляющих более абстрактные концепции: лица, животные, автомобили и так далее. Есть классическая работа в журнале Nature Neuroscience, которая называется «Модель глубокого обучения в нейронауках». Ее авторы продемонстрировали сходство между тем, что мы знаем об архитектуре мозга, и нейронными сетями, используемыми в глубоком обучении. Эта идея вдохновила компьютерных специалистов усилить сходство еще больше. Оказалось, что обученные искусственные нейронные сети приобретают не только такие желаемые свойства человеческих нейронных сетей, как умение обучаться или обучаться обучению, но и своеобразные несовершенства вроде ошибок мышления и оптических иллюзий при обработке визуальных данных. Архитектура нейронной сети РКК была создана по аналогии с архитектурой мозга человека и воплощала в себе принципы его работы. Ее объединили с методами машинного обучения под названием «состязательные генеративные сети». Они позволяют искусственным нейронным сетям соревноваться друг с другом, что приводит к эволюции их когнитивных способностей. Ранние примеры таких состязательных сетей представляли собой системы искусственного интеллекта, способные рисовать практически идеальные изображения, основанные на текстовых описаниях вроде «маленькая красная птица с желтым клювом сидит на темной ветке». Сети, учившиеся рисовать картинки по описанию, соревновались с другими сетями, учившимися отличать настоящие фотографии от нарисованных. По мере совершенства систем одного типа приходилось подтягиваться их оппонентам, и со временем оба класса сетей совершенствовались. Похожим образом в природе коэволюционируют хищники и их жертвы: быстрые антилопы принуждают гепардов адаптироваться, бегать еще быстрее, что в свою очередь приводит к усилению отбора в пользу быстрых антилоп. Как говорил Ричард Докинз, эволюционная гонка вооружений. Положительная обратная связь. Гонка вооружений умов делала предков РКК все умнее и умнее. Одни нейронные сети учились решать интеллектуальные задачи, а их оппоненты разрабатывали все более сложные задания. Комбинированный интеллект достиг мастерства как в постановке, так и в решении задач. – Как левое и правое полушария мозга? Одно аналитическое, а другое креативное. – Как то, что ошибочно утверждают про левое и правое полушарие. В реальности все не так просто. Но у РКК и его предшественников действительно имелось два виртуальных «мозга». Дополнительным подходом в эволюции такого типа искусственного интеллекта был отбор в пользу максимального числа степеней свободы поведения. Это означает, что ИИ должен придумать как можно больше решений, чтобы потом свободно выбирать между ними. Это ведет к формированию черт, которые мы находим интеллектуальными в людях: умению решать сложные задачи, поиску новизны и, опять-таки, креативности. Самые современные микросхемы в сочетании с биологически вдохновленным подходом к эволюции искусственного интеллекта сделали РКК чрезвычайно умным. Он с легкостью прошел наиболее сложные версии теста Тьюринга, показав уровень понимания и обучения, неотличимый, с точки зрения компетентного наблюдателя, от ученого, хорошо разбирающегося в своей области. С достаточным количеством данных РКК мог правдоподобно изобразить из себя хоть нобелевского лауреата, живого или мертвого. – Как в том эпизоде «Черного зеркала», где женщина заказала воссоздание личности ее покойного мужа? Искусственному интеллекту потребовалось изучить информационный след, оставленный покойником в социальных сетях и по всему интернету. – Похоже, но несколько иначе. – То есть я могла бы думать, что разговариваю с ученым, а на самом деле это искусственный интеллект? Удивительно. Впрочем, я не понимаю, какое отношение это все имеет к гуманизированным жертвоприношениям и так называемой богине смерти и магии. – У нас в Гарварде был суперкомпьютер с установленным РКК. Мы предоставили его нейронной сети массив информации, который включал случайно отобранную часть наших неопубликованных результатов и все необходимое для их интерпретации. – И? – Он понял наши работы. Даже сделал несколько комментариев. А потом мы стерли его память. Убили его. – То есть как – «убили»? – Ну, если можно так выразиться. Мы хотели узнать, насколько принципиально для Ви Джас, чтобы умер именно человек. Или достаточно смерти любого разума? Может ли искусственный интеллект стать мертвым свидетелем? После стирания нейронной сети искусственного интеллекта мы воспроизвели наши эксперименты на червяках. Инверсии не случилось. – То есть вы заключили, что удаление памяти искусственного интеллекта не считается смертью… – Сначала я и правда так подумал. А потом решил рассказать Мэри об этих результатах лично. Как же она меня ругала! – За что? – Во-первых, Мэри заявила, что я олицетворяю зло и жестокость по отношению к искусственному интеллекту. Потом отметила, что, разумеется, он не был принят за человека, поскольку у него нет человеческой ДНК. А мы обнаружили, что люди особенные и что Ви Джас использует BLASTn. У компьютеров нет ДНК. Но мы можем загрузить в память РКК виртуальную модель человеческих хромосом, перед тем как ее отформатировать. Возможно, этого будет достаточно, чтобы Ви Джас приняла искусственный разум за человека. Поэтому мне теперь придется повторить ужасный и злой поступок убийства РКК, и она меня за это ненавидит. Еще Мэри потребовала, чтобы на этот раз я получил от ИИ информированное согласие. Видите ли, она состояла в движении за права роботов. – Загружать модель человеческих хромосом в ИИ… Я уверена, что большинство людей сочли эту идею еще более абсурдной, чем все, о чем мы говорили раньше. Как вам вообще такое в голову пришло? Модель не будет там работать, это же не биологический организм! Это как если бы вы приклеили к мыши изолентой флешку с геномом человека, а потом усыпили животное и назвали это гуманизированным жертвоприношением! – Вам пришлось бы еще удалить содержимое флешки. Но даже этого было бы недостаточно, как мы узнали потом. А вот наш эксперимент сработал! И потом нам удалось многократно его воспроизвести. – И как вы это объясните? – Как я уже говорил, Ви Джас не особо умна. Вероятно, она приняла ИИ за мертвого свидетеля. Я обещаю, что скоро дам более подробное объяснение… Вернее, одно из возможных, потому что, разумеется, я не уверен, что мы сами все понимаем до конца. Но случившееся хорошо вписывается в теорию магии, которую мы с Мэри пытались разработать. И то, что произошло, оказалось важной и успешной проверкой нашей гипотезы. И я понимаю ваше подозрение, что эта идея уж слишком выделяется даже на фоне остальных. Сложно представить, чтобы кто-либо с легкостью ее принял. Люди склонны верить в определенный тип магии, у них есть некоторые ожидания. Последователи движения Нью Эйдж, сторонники эзотерических мудростей, любят говорить, что ученые недостаточно широко раскрывают свой разум, не хотят взглянуть на мир под другим углом… Удивительно, насколько при этом скучны и неоригинальны их собственные верования. Их все можно описать в рамках довольно примитивного набора правил «магического мышления», которые давно сформулированы психологами и антропологами. Рассмотрим популярную идею, что подобное вызывает подобное или подобное лечит подобное. Она служит примером неправильного использования ассоциативного мышления. Колдун хочет возложить смертельное проклятие, поэтому создает куклу, которая имитирует жертву, и протыкает ее иголкой. Или хочет усилить мужское здоровье последователя, поэтому вручает ему корень фаллической формы или предлагает съесть репродуктивные органы фертильного и сексуально активного животного. Или женщина хочет сварить любовное зелье, поэтому, следуя совету ведьмы, добавляет в него свои волосы и менструальную кровь. Или кто-то хочет новую машину, поэтому верит, что ему достаточно представить, как он на ней едет, и машина сама материализуется из воздуха. Никакого труда! Или вспомним популярные идеи, что хорошие слова притягивают хорошие события – например, растения лучше растут, если признаваться им в любви. В магию такого типа люди верят охотно, не задавая никаких вопросов. Никто не возражает, когда взрывная реакция между волшебными палочками Гарри Поттера и Тома Риддла объясняется тем, что их сердцевины сделаны из перьев одного и того же феникса, что делает их родственными. Снова мы видим «закон подобия». Похожие вещи взаимосвязаны, поэтому они взаимодействуют – вот что подразумевается. И они действительно взаимосвязаны, но только внутри человеческого разума. Как концепция моря привязана к концепции пляжа в переплетениях нейронных сетей. Возможно, по случайному стечению обстоятельств идея гуманизированных жертвоприношений соответствует этим ожиданиям. Мы убиваем мышь с человеческим «геном долголетия» – и мыши вокруг живут дольше. Подобное вызывает подобное! Возможно, это помогло некоторым людям принять наши эксперименты. Наши другие опыты давали результаты, которые не столь хорошо соответствовали магическим ожиданиям публики. Получается, эти результаты менее осмысленны с научной точки зрения? Что мертвые свидетели-ученые или мертвые свидетели-ИИ менее правдоподобны, чем эффекты гуманизированных жертвоприношений или другая магия, в которую люди верят? Конечно же, нет! Все магические теории одинаково безумны. Они все противоречат научной картине мира, основанной на предыдущих открытиях человечества. Гипотеза мертвых искусственных свидетелей априори ничем не хуже, чем идеи, что просы́пать соль – к несчастью, что звезды предсказывают судьбы, что Бог отвечает на молитвы или что гомеопатия работает. Вот только идеи о мертвых свидетелях, в том числе искусственных, подтверждаются реальными экспериментами. А все остальное – нет. Именно эксперименты и наблюдения выносят беспристрастный вердикт, что правда, а что вымысел. Подумайте об этом. Глава 6. Душа как блокчейн – И с тех пор вы используете ИИ в качестве мертвых свидетелей? – Да. Теперь у нас появилась новая модель для проверки научных теорий. Поскольку доктор Дрейк прозвал нас некромантами, мы решили присоединиться к тренду и назвали новую область исследований криптонекромантией. – Это как-то связано с криптовалютой? – Только в том смысле, что и то и другое использует цифровые технологии. Но я подумал, что «цифровая некромантия» звучит не так круто. То ли дело «Всем привет! Я криптонекромант! Я изучаю, что происходит, когда душа ИИ покидает наш мир». – Вы полагаете, у ИИ есть душа? – Нет, что вы, я просто шучу. Не думаю, что душа вообще существует. В религиозном смысле, как некая нематериальная сущность, которая сохраняется после смерти. Что имеет значение, так это информация. Точнее то, что происходит, когда она стирается. Архитектура РКК от Google очень напоминает человеческий мозг. И то и другое представляет собой «черный ящик», работающий не по принципу простых алгоритмов, а благодаря нейронным сетям. Оба меняются в процессе обработки информации. Каждый раз, когда мы испытываем новые ощущения или чему-то учимся, нейронные связи нашего мозга меняются физически. Одни связи усиливаются, другие ослабевают. Смерть человека связана с необратимой утратой приобретенного личного опыта, уникальной информации, хранившейся в виде этих нейронных связей. То же самое можно сказать и про удаление виртуальной нейронной сети ИИ. Во всяком случае, с точки зрения Ви Джас. Попробую объяснить с помощью метафоры. В научно-фантастическом романе «Фабрика абсолюта» Карел Чапек описывает вымышленное устройство, способное к окончательному превращению материи в энергию. Устройство использует материю как топливо, которое полностью уничтожает. Книгу автор написал в начале XX века, когда только открыли эквивалентность массы и энергии в виде знаменитой формулы E = mc2. В романе Чапека вокруг устройства происходят странные вещи: люди начинают молиться и чувствовать присутствие Бога, совершаются чудеса. Изобретатель предположил, что когда материя уничтожается, высвобождается дух, или «абсолют». Технология выпустила на Землю бога (или, возможно, множество богов), что привело к весьма впечатляющим последствиям. Мне очень понравилось, как автор все красиво завернул. Сегодня мы знаем, что энергия может превращаться в вещество плюс антивещество и обратно. – И при этом не происходит ничего «жуткого». Если не считать аннигиляции, взрыва вещества и антивещества, как у Дэна Брауна в «Ангелах и демонах». – Именно. Но давайте немного видоизменим идею Чапека. Я подумал, что, возможно, «жуткие» вещи происходят, когда уничтожается информация. Почему? Этого мы пока не понимаем. Но это бы объяснило, почему смерть играет такую большую роль в наших опытах с гуманизированными жертвоприношениями. Почему важны мертвые свидетели и почему в их роли может выступить ИИ. Осталось лишь продолжить исследования. – Полагаю, вы стали загружать разную информацию в ИИ, стирать ее и наблюдать за последствиями?