– Любопытствую, не более того. – Дамир улыбнулся. Кожа на стыках лицевых пластин покрылась сеточкой морщин. – А вам разве не интересно, каким будет мир через пять, десять, двадцать лет? «РобоТех» создаёт будущее, эти слова – не просто красивый девиз. – А какую часть будущего создавала Марина Фархатова? – Марина, Марина… – протянул собеседник. – В толпе друг друга мы узнали, сошлись и разойдёмся вновь. Была без радостей любовь, разлука будет без печали7… Вас угостить или предпочитаете свои? Хозяин «Алхимии» открыл портсигар, достал редкую сигариллу, раскурил и выпустил пахнущее сырым деревом облако дыма. Глеб всегда обращал внимание на то, как люди курят. Дамир вытягивал оттопыренную нижнюю губу и позволял дыму струиться вверх, закрывая лицо рваной пеленой. – На этот счёт нет единого мнения. К моменту смерти Марина Фархатова возглавляла отдел программного обеспечения. Она же занималась стратегическим планированием. Проявила недюжинный талант в области промышленного дизайна. Именно ей принадлежит облик серии «Семаргл-два-ноль», строящей подземные купола на Марсе. Очень талантливая и неординарная была дама. – Да, это мне известно, – начало беседы не слишком воодушевляло. Глеб рассчитывал копнуть чуть глубже интернет-энциклопедии. – А вам известно, что половина киберов в «Вастуме» также принадлежит перу госпожи Фархатовой? К примеру, все модели номера-люкс, посвящённого творчеству Бэнкси. Кстати, одно из граффити – подлинник. Привезено из Лондона вместе с верхним слоем штукатурки. Поэтому снять этот номер может только ограниченный круг лиц. Внеся перед этим залог в размере десяти тысяч рублей. Вот это звучало куда интересней. Выходит, с обстановкой в номере и внешностью заточённых в нём киберов мог познакомиться далеко не любой желающий. Интересно, хранят ли в «Вастуме» списки посетителей? И если да, то за какой период? – А вот ещё информация для размышления, – Дамир сменил позу, и полы олимпийки окончательно разъехались, открыв собранную сухими складками кожу на животе. Ремень украшала массивная пряжка. – Сразу предупрежу: всё, что вы сейчас услышите, – домыслы и обрывки информации, сложенные определённым образом. Моя интерпретация может отличаться от действительности. Глеб кивнул, приглашая собеседника продолжать. Именно со слов «но это так, брехня, болтают всякое» обычно и начиналась самая полезная часть диалога. – Восемь лет назад, в две тысячи тридцать четвёртом году, государство выделило «РобоТеху» грант на создание киберов для эксплуатации в особо неблагоприятных условиях. Получив задачу, новые киберы должны были самостоятельно искать пути её выполнения. Анализировать поступающую информацию, принимать решения. То есть осознавать результаты собственной мыслительной активности. Более того, эти киберы должны были обучаться, совершенствовать свою архитектуру, реагировать на любое воздействие среды и иметь первичную мотивацию. Но самое главное, – Дамир задержал на собеседнике внимательный взгляд. Глаза у него были круглые и неподвижные, как у хищной птицы вроде ястреба, – проводить чёткую границу между «я» и «не я». Только обладая этими свойствами, новые роботы смогли бы решать задачи, сложность которых превышала мощность процессора. – Зачем нужны такие роботы? Как оружие? – В кои-то веки нет, – владелец «Алхимии» издал шелестящий смешок. – Этим киберам предстояло работать там, где ими не смог бы управлять оператор. Они должны были проложить для человечества путь ко внеземным колониям. Марс – это ведь только начало экспансии. – То есть, государству понадобились машины, обладающие искусственным интеллектом? Чтобы отправить их в космос? – Искусственным интеллектом сейчас даже зассанный толчок обладает, когда берет анализы и стучит в страховую компанию, что у тебя повышенный холестерин. Параметры, которые я перечислил, требуют от машины наличия разума. Глеб, не удержавшись, скорчил недоверчивую физиономию. – И чем всё закончилось? – Ничем, – Дамир апатично махнул механической кистью. Пальцы унизывали массивные кольца, по два-три на каждом. – В тридцать девятом Олег Фархатов написал для министерства приватный отчет. В нём говорилось, что на данном этапе развития технологий задача неосуществима и вся работа в этом направлении будет свёрнута. – Так просто? Спасибо, все свободны? – Исследования в области искусственного разума и раньше переживали взлеты и падения. В конце двадцатого века, когда была создана первая программа, способная обыграть гроссмейстера в шахматы, люди тоже были уверены, что стоят на пороге великого открытия. А потом столкнулись с проблемой комбинаторного взрыва, и энтузиазм поутих. – Комбинаторного взрыва? – Так называют резкий скачок в количестве вариантов, которые перебирает компьютер. Как он справляется с поставленной задачей? Нумерует все возможные комбинации и проверяет, какая из них ведёт к правильному ответу. Но этот метод подходит только для самых простых случаев. Если вводных становится слишком много, простой перебор начинает требовать нереальных мощностей. Сначала с этой проблемой справлялись с помощью эвристического метода, позже подключили нейронные сети. Но по-настоящему сложные задачи компьютер сможет решать, когда научится долгосрочному планированию, работе с абстрактными представлениями. Пока на это способен лишь человеческий разум. – А что стало с деньгами, полученными в качестве гранта? Глебу спустил разговор из научных сфер в более приземлённое русло. Ответ напрашивался сам собой. Сгинули те деньги без следа. И без всяких последствий для корпорации. Всё равно общую сумму финансов, потраченных казной в никуда, не подсчитает ни один искусственный интеллект. Вот где случится комбинаторный взрыв… – Как ни странно, но министерство науки и образования решение Олега Фархатова не поддержало. В «РобоТех» направили специалистов из отдела экономических преступлений ДРБ. Те долго выясняли, действительно ли грант был потрачен на исследования, или совет директоров обновил частный авиапарк. Из департамента региональной безопасности? Из отдела экономических преступлений? Глеб нашёл на мониторе Бориса, по-прежнему лежавшего на кушетке и пялившегося в виртуальный экран. Тату-мастер успел добраться до худого предплечья без намека на мускулатуру. Почему, когда Глеб просил приятеля собрать информацию о «РобоТехе», тот ничего не рассказал? Три года назад Осипов уже числился аналитиком и не мог не участвовать в ревизии… К тому же эта цифра – три года… Где-то он её слышал, не так давно. Брат Айчилан, Оталан рассказывал о программе защиты малолетних беспризорников, которая действует на протяжении трёх лет. Нет, не то, при чем тут беспризорники? Вряд ли грант осел в карманах сироток, версия про авиапарк выглядела правдоподобней… Самолёт! Катастрофа над Балтийским океаном, во время которой погиб отдел робототехники! – Помните про авиакатастрофу? – дождавшись утвердительного кивка, Глеб продолжил, едва сдерживая возбуждение. – Она случилась до или после того, как Олег Фархатов свернул проект? – Накануне. Занятное совпадение, не правда ли? – Но что тогда везли на конференцию, да ещё всем отделом, если исследования зашли в тупик? Дамир прикусил сигариллу, неопределенно пошевелил пальцами. – По официальной версии – обновлённые образцы «Семаргл-два-ноль», роботов для строительных работ на Марсе. Наработки удалось восстановить, и через некоторое время серию запустили в массовое производство. – Но никто из робототехников не выжил, чтобы подтвердить эту версию, так? – Почему же? Выжили, даже двое. – Кто? – Глеб подался вперед. – Марина и Олег Фархатовы. Они лично руководили проектом и входили в состав делегации. Только Фархатовы летели отдельно, на своём бизнес-джете. В кабинете повисла тишина. Глеб обдумывал услышанное. Вспомнил про кофе, допил остывшую жижу, не ощутив вкус. – Вы думаете, что в той аварии погибла первая партия разумных киберов и все, кто был причастен к их созданию? Хозяин «Алхимии» молча ухмыльнулся, не подтверждая и не опровергая напрашивающуюся версию. Глеб потёр складку на переносице. Продолжил, на ходу формулируя сложную мысль и оттого растягивая слова. – Почему… Олег Фархатов потратил… столько времени, сил, денег… пять лет работы целой корпорации… а потом от всего отказался? Пожертвовал профессиональной репутацией. Ведь это был настоящий научный прорыв, так?.. Революция, успех?.. И… он просто взял и всё уничтожил? Я молчу про гибель людей… Он ведь знал, что рискует. Что министерство не поверит в простое совпадение и погонит волну… Так почему? – Кто знает. Может быть, испугался, – Дамир в раздумьях выпятил нижнюю губу. – Чего? – Того же, чего боялись наши предки, сидя вокруг костра – темноты. Неизвестности. Чудовищ, созданных воображением. Вы слышали о Василиске Роко? – Нет, не слышал, – признался Глеб. На языке снова вертелся Тесей с кораблем, но в этот раз он точно был не к месту. – Речь идет об одном очень странном мысленном эксперименте начала двадцать первого века. На одной из американских платформ задали следующий вопрос. Предположим, в будущем появится настолько мощный искусственный интеллект, что его возможности сравняются с Божественными. Этот интеллект захочет наказать всех, кто знал о его грядущем зарождении, но мешал или даже просто не помогал его появлению на свет. Каким образом он собрался карать неугодных, неважно. Главное, что прямо сейчас вы, Глеб Александрович, узнали о Василиске Роко. А значит, должны сделать выбор: противостоять Василиску и получить за это бесконечные муки или избежать ужаса, но при этом способствовать созданию враждебного интеллекта? – Меня с первого курса физмата отчислили. Василиск немного выиграет от моей поддержки. – Вот видите! – Дамир рассмеялся, показав длинные зубы. – Вы пытаетесь увернуться от ответа, вам неприятна эта мысль. А ведь вы знаете, что это всего лишь старая, ничего не значащая байка. Что же должен чувствовать человек, столкнувшийся с похожей дилеммой в жизни? – Но ведь Олег Фархатов контролировал процесс. Это как если бы мне поручили соорудить лопату, а я бы испугался, что вместо лопаты соберу топор. И этим топором нечаянно всех порублю. Вложил бы киберам в головы, ну не знаю… три закона робототехники. – Три закона защищают только от очевидного, целенаправленного вреда, который машина может нанести человеку. Сам Азимов в своих книгах прекраснейшим образом их обходил. Представьте, что мы создали машину, чей интеллект превосходит наши способности. И эта машина начала себя осознавать. Есть гипотеза, что информационные массивы, как и живые существа, обладают инстинктами самосохранения и размножения. Эта разумная машина может спроектировать другую машину. И если интеллект первого компьютера превосходит наш, к примеру, на сто процентов, то интеллект второго обгонит нас на тысячу процентов, и так далее. Через несколько поколений появится компьютер в сто тысяч раз более умный, чем все живущие на свете профессора. Для этой машины разум человека и разум ежа не будут иметь никаких принципиальных различий. Ежи тоже отличаются друг от друга. Есть глупые ежи, есть обычные, есть талантливые и, с некоторой долей вероятности, существуют даже гениальные ежи. Но не плевать ли нам на это с высокой колокольни? Точно также будет выглядеть с позиции сверхразума наша цивилизация. – А вы не боитесь? – Детектив откинулся назад, устроив правую руку на спинке дивана. Скрипнула кожаная обивка. Пришёл черед Дамира задуматься. – Пожалуй нет, – протянул он и добавил уже уверенней. – Нет, не боюсь. Слишком сложно предсказать поведение подобного сверхразума. Что, если это будет ящик метр на метр, который осознаёт себя, но не собирается ничего предпринимать? А если и будет, то почему его цели должны быть враждебны нашим? Вряд ли речь пойдет о межвидовой борьбе. Человек ведь не расценивает, скажем, грибы или дождевых червей как своих прямых конкурентов. Нам не придётся делить территорию или источники пищи. Машинный интеллект будет функционировать в виртуальной реальности, а мы останемся в физической. Думаю, мы прекрасно уживёмся. Если что и пострадает, так это самолюбие антропоцентристов. Пёстельбергер попытался представить подобную жизнь, но не смог. Да, человечество не собирало крестовый поход против грибов и червей. Оно просто вырубало леса и закатывало почву в асфальт, предоставляя грибам и червям невесёлый выбор – адаптироваться или вымирать. – Значит, на этом проект создания разумных киберов завершился? – Подавляющее большинство считает, что да. Конец истории. – А как считаете вы? Дамир снова замолчал. В круглых глазах читалось сомнение. – А я считаю, что Марина пошла против воли отца и продолжила разработку. – Почему вы так думаете? – Во-первых, ко мне в «Алхимию» захаживала её подруга… не помню точного имени, Марина называла её Паучок. Несчастный ребенок. – Слышал про такую, – слукавил детектив. – И что с ней? – У меня была возможность познакомиться с… м-м-м… особенностями её конструкции. Она намного опередила всё, что когда-либо появлялось на рынке, как на нашем, так и на американском или китайском. Особенно это касается батареи, рассчитанной на десятки лет стабильной работы, и спайки живых и искусственных органов. Подобные технологии не появляются из ниоткуда, они должны на чём-то обкатываться. Но в лабораториях «РобоТеха» ничего похожего не создавалось. – А вы знаете, кто такой Бэн? – Бэн? – переспросил Дамир, прикрыв глаза тяжёлыми веками. – Бенни, Бендажмин, Бенедикт… Нет, не знаю. – Хорошо. Это во-первых. А что во-вторых? – Во-вторых, Марина была моим постоянным клиентом. И часто интересовалась, скажем так, редкими и необычными комплектующими. Все они имелись на складе «РобоТеха», но Марина почему-то приобретала их окружным путем, втридорога и без гарантий. Выводы делайте сами. – Что именно вы ей продавали? – Ай-яй-яй, – владелец «Алхимии» покачал пальцем с насмешливым укором. – Я и так сказал больше, чем собирался, Глеб Александрович. Мне импонирует ваше безрассудство и желание докопаться до истины. Вы ступили на трудный путь. Держите, пригодится. Развернувшись к столу, Дамир достал из ящика простенький мобильный из копеечного пластика. – Я беру такие телефоны для своих работников. Они одноразовые, с предоплаченным пакетом на три часа, умеют только звонить и отправлять смс. Доступа к интернету и геолокации не имеют. Пригодится на случай экстренной связи.