– Так откуда берутся баги, если симуляция соответствует строгим законам физики? – Давайте еще раз представим, что мы находимся внутри виртуальной вселенной. Развитие симуляции действительно определяют законы физики, которые позволили случиться эволюции, породившей миллиарды в меру разумных ИИ – людей. Теперь наши мозги вычисляют нечто нужное для этой симуляции. Для нас весь процесс занял миллиарды лет, но, возможно, подобные сроки – ничто для самой симуляции и всего, что находится вне ее. Муха куда быстрее человека реагирует на изменения окружающей среды. Возможно, ее восприятие времени отличается от нашего. Ну а мы куда меньше мухи в масштабах симуляции. Восприятие времени субъективно и относительно, оно зависит от способа измерения и наших внутренних часов, поэтому вся история человеческой расы теоретически могла бы оказаться чьим-то домашним заданием на выходные, – с позиции внешнего наблюдателя, разумеется. – Как микровселенный аккумулятор из эпизода «Рика и Морти». Миниатюрная вселенная, чьи жители производят электричество, питающее космический корабль. – Именно. Только в реальности наш мир вышел бы скорее противоположностью батарейки. Мощность, необходимая для того, чтобы поддерживать нашу симуляцию, скорее всего, колоссальна, и кое-какие меры понадобились, чтобы уменьшить энергопотребление. Чуть позже я объясню, как это могло привести к багам. И есть еще одна проблема, связанная с ограничением скорости передачи информации. Один мой российский коллега предложил довольно интересный, но странный мысленный эксперимент. Представьте гигантскую многоножку. Она очень длинная и крайне быстро бежит. Первой парой ног членистоногое сталкивается с неким препятствием. Электрический сигнал, сообщающий о преграде, начинает свой путь по нейронной сети к задним ногам. Самая высокая скорость передачи электрических сигналов у животных составляет около 120 метров в секунду, или 432 километра в час. Если многоножка бежит быстрее, у нее нет способа сообщить своим задним ногам, что их ждет впереди. Я описал ситуацию, аналогичную той, которая возникает из-за естественного барьера для передачи информации в нашей Вселенной – ограниченности скорости света. Более того, некоторые уравнения специальной теории относительности прекрасно описывают бегущую многоножку, если заменить в них скорость света на скорость проведения электрического импульса. Компьютер, внутри которого сигналы передаются со скоростью света, то есть около 300 000 000 метров в секунду, может поддерживать такое же время обмена информацией между своими самыми дальними частями, как человеческий мозг (диаметром чуть менее 0,15 метра), если он примерно в 3 000 000 раз больше в размере. Это очень много, но все равно лишь 450 километров в диаметре, что в восемь раз меньше диаметра Луны. Более крупный компьютер неизбежно будет передавать информацию с большей задержкой, чем человеческий мозг. Я хочу сказать, что огромная симуляция может иметь ограниченную скорость вычислений, и это, вероятно, тоже послужит причиной багов. – Не понимаю. Ведь ограничения по скорости вычислений сами по себе не создают багов… – Верно. Но ошибки могут возникать из-за попыток оптимизировать вычисления. Химики владеют методом для изучения взаимодействий между молекулами, который называется «молекулярная динамика». С ее помощью специалисты предсказывают, связывается ли определенная малая молекула с некоторой частью интересующего нас белка, занимает ли она его активный центр и нарушает ли его функцию. Такой метод незаменим при разработке лекарств. Хотите изобрести противовирусное средство? Найдите вещество, которое связывает важный вирусный белок, необходимый для его размножения или передачи от клетки к клетке. Молекулярная динамика основана на симуляции движения молекул. Но попытка учесть поведение каждого атома потребовала бы огромных временных и энергетических затрат. Поэтому ученые используют эвристики – с некоторыми группами атомов обращаются как с единым целым и применяют к взаимодействию между ними правила более высокого порядка. Обычно результаты выходят достаточно точными, а экономия вычислений оказывается колоссальной. Впрочем, упрощенная модель неидеальна, и не все ее предсказания точны. То, как абстракции высокого порядка помогают экономить время вычислений, легко показать на простом примере. Предположим, вам надо предсказать, сколько придется дуть в воздушный шарик, прежде чем он лопнет. Результат такого процесса определяется сложным взаимодействием индивидуальных молекул, из которых состоит шарик, газом внутри него, атмосферы снаружи и воздухом, поступающим из ваших легких. Одно лишь описание индивидуальных молекул, их скорости, энергии и взаимодействий превращается в вычислительный ад! Но с задачей справится даже школьник, если применит простые высокоуровневые правила – формулы, оперирующие такими концепциями, как давление, объем и температура. Лопнет шар или нет, будет зависеть еще и от нескольких числовых значений, описывающих материал, из которого он сделан. Стоит найти эмерджентные правила более высокого порядка, удовлетворительно описывающие сложную систему, – и вам уже нет дела до отдельных молекул. Кроме того, если вы знаете, как ведет себя один шарик при определенных условиях, вы можете предположить, что и другой поведет себя похожим образом. И никаких дополнительных вычислений не понадобится. Расскажу анекдот про физика, математика и инженера. Их попросили установить объем красного резинового шара. Физик поместил шар в стакан воды, измерил объем вытесненной жидкости и получил нужный ответ. Математик измерил диаметр шара и провел несложное вычисление. Инженер открыл таблицу стандартных размеров красных резиновых шаров и выписал искомое значение. Если симуляция будет работать, как инженер из анекдота, то получит приемлемые результаты, сэкономив время. Разумеется, упрощенные решения не лишены недостатков. Могут возникать исключения, когда система должна повести себя одним образом, но что-то не учтено – и она ведет себя иначе. Например, воздушный шарик внезапно лопается без видимой причины – произошел баг симуляции, или попросту «чудо». Баг стоило бы исправить, добавив еще один тип воздушного шарика в таблицу «стандартных красных резиновых шаров». В такой симуляции законы физики будто бы всегда работают, но «магия» все равно происходит со сложными биологическими объектами – мышами, червями или людьми. Есть и другие способы сэкономить время вычислений. Согласно поговорке, хорошая научная фантастика должна объяснить парадокс Ферми – почему инопланетяне молчат. Я полагаю, что хорошая теория об устройстве Вселенной тоже должна попытаться ответить на этот вопрос. Осмелюсь предположить, что никаких сигналов от инопланетной жизни мы не получаем потому, что планеты за пределами Солнечной системы «процедурно сгенерированы». Детали появляются только тогда, когда мы изучаем их ближе, а все остальное время они моделируются как единое целое, словно воздушный шарик из предыдущего примера. Симуляция может редуцировать целые планеты или звездные системы до нескольких десятков параметров, вместо того чтобы работать с числом атомов, которое достигает порядка 1056 для одной лишь нашей Солнечной системы. Так симуляция заработает намного быстрее. К сожалению, я не физик, поэтому не знаю, как проверить эту часть гипотезы. – Я думаю, хорошая аналогия с вашей идеей о симулированной вселенной – фильм «Шоу Трумана». Главный герой жил, не подозревая, что все вокруг него – постановки и декорации. А еще на ум приходит эпизод «Шоу закрыто» из «Южного Парка», где оказалось, что Земля – инопланетное реалити-шоу. – Вынужден вас расстроить: аналогии не идеальны. Люди и инопланетяне не управляют нашим шоу. Да оно как бы и не шоу вовсе. – А что, если все-таки шоу? – Ну хорошо. Кто знает? Но меня волновало другое. Почему люди оказались особенными? Если целью симуляции служат некие вычисления, то каким образом их результаты извлекаются из нее? Смерть организма – это конец его симуляции как сложной системы. Это момент, когда можно вытащить данные из симуляции и внимательно их рассмотреть, изучить, препарировать. Целью симуляции могло бы стать создание некой интеллектуальной собственности: знаний о виртуальной вселенной или, возможно, чего-то творческого, вроде историй или сценариев фильмов. В таком случае симуляции пришлось бы самостоятельно научиться определять источники необходимых знаний. А кто обладает наибольшим знанием о симуляции изнутри? – Люди. Особенно ученые. – Именно! Я полагаю, что часть симуляции в процессе своего развития научилась определять в меру разумные объекты внутри себя и извлекать из них информацию о своем существовании. – Как самопознание? – Возможно. Поэтому мертвые свидетели становятся источником информации о существующих багах и причиной их исправления. Любящему и всемогущему Богу незачем создавать для своих творений такие ужасные вещи, как смерть. Симуляция, которая извлекает знание из своих частей, которые больше не используются, – вот истинная богиня смерти. – Я бы ее не осуждала. К тому же люди не многим лучше Ви Джас – они не переживают, когда убивают свои ИИ ради увеличения удоя коров. – Соглашусь, мы и правда порой ведем себя не лучше богини смерти. – Но вернемся к науке. Существование мертвых свидетелей… Что говорит ваша теория симуляции о душе и загробном мире? – Я могу лишь догадываться, как Ви Джас извлекает информацию из погибших людей. Но теория симуляции позволяет решить философский парадокс, который часто встречается в научной фантастике. Предположим, мы создали точную копию человека, атом за атомом, попутно уничтожив оригинал. Кажется, что в мире ничего не изменилось, никому не причинен ущерб, по крайней мере, в рамках современного понимания физики. Но кто согласится оказаться на месте оригинала, который собираются уничтожить? Многие чувствуют, что с подобным предложением что-то не так. На мой взгляд, наша интуиция в таком вопросе вполне может оказаться жертвой когнитивной ошибки. Возможно, различий между оригиналом и копией действительно не существует. Но теория симуляции предлагает альтернативный сценарий. Ранее вы упоминали криптовалюту вроде биткоинов и эфира, которые основаны на технологии «блокчейн» Сатоши Накамото. Это способ хранения цифровой информации в виде блоков, которые связаны друг с другом благодаря криптографии. Если взять биткоин и с его помощью совершить покупку, блокчейн не только сохранит информацию, что виртуальный кошелек покупателя пуст, но также историю перевода и тот факт, что когда-то биткоин в кошельке был. В блокчейне нельзя нарушить связь между прошлым и настоящим. Поэтому, если бы люди оказались цифровыми объектами внутри симуляции, использующей систему наподобие блокчейна, то даже точная копия имела бы другое, невоспроизводимое прошлое и, следовательно, не была бы идентичной оригиналу. Как два биткоина в разных кошельках не до конца идентичны друг другу, несмотря на равную денежную стоимость. Однажды мне приснилось, будто наши сновидения возникают из-за того, что Ви Джас использует человеческие мозги ради собственных вычислений подобно тому, как майнеры криптовалют используют свободные ресурсы видеокарт своих компьютеров. Разумеется, это просто интересная мысль, а не реальная гипотеза. Как я уже говорил, режим взаимодействия между Ви Джас и мертвыми свидетелями остается научной загадкой. Поэтому я очень рад, что участвую в таких исследованиях. – Душа как блокчейн… Какая сложная мысль – пожалуй, я подумаю над ней позже. А сейчас мне бы хотелось узнать, почему все-таки работают гуманизированные жертвоприношения. – Они работают по тем же причинам, по которым мертвые свидетели-ИИ используются Ви Джас, только если их снабдить информацией о человеческом геноме. По божественным меркам симуляция крайне неразумна и, вероятно, сама выступает чем-то вроде нейронной сети. Ви Джас – черный ящик. Она пытается определять и классифицировать объекты внутри себя, используя некое подобие машинного обучения. Помните, мы обсуждали, что Бог использует BLASTn? Последовательности ДНК – это нечто, что можно использовать как маркер человека. Если у объекта человеческая ДНК, значит, это представитель вида Homo sapiens. В большинстве случаев ошибиться невозможно. Но тут появляется генная инженерия, и возникают исключения из правила. Нестандартные красные резиновые шары. – Гуманизированные животные… – А люди особенны тем, что именно из них можно извлечь наибольшую информацию о симуляции – самые последние достижения научного прогресса. Но с точки зрения симуляции нет никакой ДНК, биологической материи, компьютеров – это все нули и единицы кода. Поэтому смерть ИИ, содержавшего информацию о человеческом геноме, ошибочно обрабатывается как смерть человека. Позже мы проверили эту гипотезу, и оказалось, что даже не нужно загружать целый человеческий геном. Для BLASTn Ви Джас достаточно пары виртуальных генов. Полагаю, что смерть гуманизированных животных вызывает баг системы потому, что симуляция ошибочно классифицирует эти организмы как людей. Но эти существа все же не соответствуют описанию человека, поэтому Ви Джас вынуждена создать новый класс объектов, чтобы поместить туда эту непонятную сущность. Затем она почему-то относит к этому классу объектов и других родственных животных, находящихся поблизости, и применяет к ним новые эмерджентные правила. Богиня словно смотрит в таблицу стандартных объемов красных шаров, не может найти правильную запись и на ходу придумывает альтернативные значения, используя некий набор правил из «черного ящика» своей нейронной сети. Единственное, что мы знаем, – эти правила часто соответствуют нашим ожиданиям о том, что позаимствованный ген делает с человеком. Возможно, у Ви Джас есть доступ и к ним. Очевидно, что эта процедура создает нечто непредусмотренное. Баг, который нужно устранить. Но у симуляции нет ни малейшего представления, насколько большую ошибку она внесла. Поэтому Ви Джас инвертирует эффект, переворачивает его с плюса на минус, ждет дополнительной информации, а потом выставляет среднее значение между тем, что было, и тем, что получилось. В итоге вещи возвращаются на свои места, как если бы бага и не было. Мы обнаружили, что эффект инверсии симметричен изначальному. Это странное решение со стороны симуляции, но, возможно, ничему другому в процессе своей эволюции Ви Джас не научилась. Вероятно, для нее это рефлекс, как у человека, автоматически отдергивающего руку от горячей сковородки. – А что происходит, когда в ИИ загружают поддельные научные статьи? – Я думаю, что в результате обучения своей нейронной сети Ви Джас выяснила, что самые точные знания о симуляции хранятся в научных статьях. К сожалению, она почему-то не в состоянии понять содержание публикаций без помощи какого-нибудь разума изнутри. Это как китайская комната без Сёрла. Возможно, дело в том, что печатный текст имеет смысл только для того, кто говорит на языке, на котором он написан, и обладает необходимыми знаниями, чтобы его интерпретировать. Даже люди, блестяще владеющие языком, нередко плохо понимают результаты свежих научных статей. Чтобы понять работу, скажем, о теории струн, надо потратить годы на изучение теоретической физики. Таким образом, для понимания научных статей Ви Джас требуется помощь ученых, нейронные сети которых содержат информацию о необходимом контексте. Если бы богиня смогла общаться с ними, настроить своего рода «диалог» или иную форму связи, возможно, она не только бы извлекла нужные данные об интересных ей исследованиях, но и поняла бы, что это все означает и что с этим делать. Итак, кратко: лучшим источником информации о мире служит научная статья, переведенная специально для вас осведомленным специалистом. Поэтому симуляция и нуждается в мертвых свидетелях. Поэтому сожжение книг и научных статей, а также удаление файлов с флешек и жестких дисков ничего не дают. К несчастью для Ви Джас, эту силу можно использовать против нее. Теперь мы можем сами создавать баги в симуляции, изнутри. Так работают наши технологии. – А не могут ли возникнуть какие-то нежелательные последствия от злоупотребления технологией? – Не знаю. Возможно, в какой-то момент Ви Джас адаптируется и исправит эту недоработку. Восстановит в мире «идеальный баланс». Тогда все технологии, основанные на гуманизированных жертвоприношениях, перестанут работать. Альтернативно она может выяснить, что ИИ превзошли людей в своих знаниях, и перестанет интересоваться человечеством. – Все это, конечно, интересно, но пока вы привели лишь косвенные свидетельства в пользу вашей теории симуляции… – Есть еще один эксперимент, о котором я давно мечтаю рассказать. Я оставил его напоследок. Помните, как мы научились предотвращать голубую волну смерти у круглых червей и как этот эффект странным образом зависел от расстояния до места жертвоприношения? Долгое время мы не могли понять, в чем дело, пока не объединились с физиками и математиками и не запустили, пожалуй, самый амбициозный проект в области некромантии. Даже доктор Дрейк согласился поучаствовать, чтобы «присматривать» за нашим «БГК» – «Большим гельминтным коллайдером», или «глистофазотроном», как он его прозвал. Правда, пришлось тут же поправить коллегу: Caenorhabditis elegans – нематоды, но не паразиты, поэтому технически они не являются гельминтами, или глистами. Ранее Мэри пробовала размещать червей по кругу, в центре которого находился жертвенный гуманизированный червь. На этот раз мы сделали гигантский куб, содержащий миллионы червей. Мы хотели детально визуализировать магическое поле. Но для этого предстояло решить несколько задач. – Каких? – Во-первых, нужно было запустить голубую волну смерти сразу в миллионах червей. Для этого мы решили использовать оптогенетику – светочувствительные белки. Мембраны некоторых одноклеточных зеленых водорослей содержат встроенные каналы – каналородопсины. Синий свет открывает эти каналы, что приводит ко входу ионов натрия в клетку, благодаря этому водоросли реагируют на свет. С помощью генной инженерии ученые могут поместить такие каналы в нейроны животных. Полученные нейроны можно активировать светом, потому что в этих клетках вход ионов натрия запускает генерацию нервного импульса. У современных генных инженеров есть целый арсенал подобных светочувствительных белков. Нам нужен был светоактивируемый кальций-зависимый релиз-активируемый кальциевый (КРАК) канал, или опто-КРАК. Если помните, голубая волна смерти вызывается входом ионов кальция в клетки кишки червя, а опто-КРАК как раз и вызывает выброс кальция в ответ на свет ближнего инфракрасного диапазона. Мы создали и развели новую разновидность генетически модифицированных червей, у которых в кишке присутствовал опто-КРАК. Воздействуем на них светом – запускаем голубую волну смерти. В исходных работах мы приносили в жертву гуманизированных червей с человеческими генами BCL2 и Connexin-26. Но эти подходы больше не работали из-за мертвых свидетелей. Поэтому мы создали новую экспериментальную модель, используя технологию мертвых ИИ-свидетелей и фальшивую научную публикацию. В поддельной статье мы утверждали, что принесение в жертву червяка с одним случайно выбранным человеческим геном замедляет голубую волну смерти. Из-за инверсии жертвоприношение теперь приводило к ускорению уже запущенной голубой волны смерти. Наш «глистофазотрон» выглядел так: 216 тысяч чашек Петри помещались прозрачными слоями, образуя куб объемом 216 тысяч кубических метров. Автоматическая роботизированная система распределяла жидкую среду, содержащую сотни генетически модифицированных опто-КРАК червей, в каждую из чашек. Мы масштабировали конфокальный лазерный сканирующий микроскоп, который использовали как телескоп, чтобы он попал лучом инфракрасного излучения по каждой чашке Петри, запуская голубую волну смерти в червях. Параллельно прибор сканировал и записывал фоновую флуоресценцию. Затем в центре куба мы проводили гуманизированное жертвоприношение, а микроскоп начинал сканировать чашки Петри с регулярными интервалами, создавая высококачественные изображения, отражающие изменения интенсивности свечения в реальном времени в миллионах червей. Затем компьютерная программа рисовала трехмерную тепловую карту, показывающую изменения интенсивности голубых волн смерти. Подготовка червей занимала несколько дней, но мы смогли посмотреть на эффект множества индивидуальных жертвоприношений. Результаты нас, мягко говоря, удивили. – Вау! Что же вы увидели? – Усеченный октаэдр. Мы увидели отчетливый усеченный октаэдр. У него четырнадцать сторон: восемь правильных шестиугольников и шесть квадратов. Каждый раз, когда мы повторяли эксперимент, то видели, что изменения свечения происходили в червях, расположенных внутри этой геометрической фигуры постоянного размера. Ее можно вписать в сферу диаметром 28,82 метра, хотя положение фигуры в кубе каждый раз было разным. Принесенный в жертву червь всегда находился внутри усеченного октаэдра, но в разных его частях. – А чем примечательны усеченные октаэдры? – Это один из пяти выпуклых многогранников с правильными гранями, который можно использовать для заполнения бесконечного пространства, без незаполненных дыр. Иными словами, им можно выложить мозаику трехмерного пространства. – А есть ли смысл в величине 28,82 метра? Или тут как с числом 42, которое выступает ответом на главный вопрос жизни у Дугласа Адамса, или с числом 666, под которым якобы скрыто имя зверя Апокалипсиса? – 28,82 метра – это округление, но сама константа измерена с более высокой точностью. Физики посчитали, что величина совпадает с результатом вычисления по формуле, включающей фундаментальные константы: это половина произведения числа Пи, планковской длины и куба отношения массы бозона Хиггса к массе нейтрино. Масса нейтрино измерена не очень точно, но оказалось, что на основе предложенной формулы и наших измерений можно сделать предсказание, уточняющее эту массу. Сейчас это предсказание проверяют физики. Тогда мы узнаем, совпадение это или нет. – И как вы интерпретировали этот результат? – Мне это напомнило воксели и пиксели. Я бы предположил, что пространство делится на большое число усеченных октаэдров – содержимое каждого обрабатывается отдельным процессором, который отвечает за малую часть симуляции. Это чем-то напоминает, как современные видеокарты используют параллельные вычисления. Гуманизированные жертвоприношения вносят моментальную ошибку, эффект которой ограничивается объемом пространства, которое в данный момент обрабатывает один процессор. Похоже, что Земля движется относительно пространственной мозаики, поэтому мы видим один и тот же усеченный октаэдр, но в разных положениях и под разным углом. Поэтому в предыдущих экспериментах, когда мы использовали круг из червей, мы наблюдали картину, представляющую собой сечение трехмерной фигуры плоскостью. – Не самый простой способ доказать, что Земля вращается и не находится в центре Вселенной… Я бы с удовольствием послушала, что по этому поводу думают физики. – Дрейк назвал это «загробным синтезом» («Grave Synthesis») и сказал, что мы открыли «некросимметрию» («Supercemetery»). Мне кажется, шутки помогали ему принять новую реальность. – А как вообще удалось провернуть столь масштабный эксперимент? – Ну, по сравнению с реальным большим адронным коллайдером – это ничто. Автоматизированные системы для проведения тестов на множественных биологических объектах уже повсеместно использовались для разработки лекарств. Мы просто переориентировали доступную технологию. Один из наших соавторов ранее работал над проектом, в рамках которого удалось протестировать четыре с половиной тысячи различных лекарств на более чем 500 линиях раковых клеток человека. – Впечатляет. – Еще бы! В общем, вот я и рассказал обо всех основных результатах, которые мы получили. Думаю, на этом можно закончить урок истории, хотя понимаю, что вопросов осталось больше, чем ответов. – Это точно. Скажите, а какие у вас дальнейшие планы? – О, планов у нас очень много! Сейчас, например, мы с Мэри задумали эксперимент совершенно нового типа – истинную проверку ядра теории симуляции. Я весь в предвкушении! – Какого типа проверку?