Здание на ул. Петровка, Управление «К», г. Москва. 2032 год. Сидящий за столом капитан с красными от хронического недосыпания глазами читал с экрана компьютера одну старую статью: "Апокалипсис своими руками: сможем ли мы контролировать сверхразумный ИИ". В Институте Макса Планка[2] провели исследование о перспективах развития ИИ. Его авторы считают, что скоро мы не сможем управлять сверхразумными машинами. Эксперты — разработчики и технофутурологи, проводившие исследование, — говорят о сверхразумных машинах: роботах и алгоритмах на базе ИИ, которые превзойдут человеческий мозг. Основываясь на теоретических расчетах, они предположили, что, когда это произойдет, мы не сможем полностью контролировать искусственный интеллект. «Сверхразумная машина, управляющая миром, звучит как научная фантастика. Но уже есть машины, которые самостоятельно выполняют важные задачи, а программисты не до конца понимают, как они этому научились. Поэтому возникает вопрос: может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества?» — отметил Стивен Дулиттл, соавтор исследования и руководитель Группы цифровой мобилизации в Центре людей и машин Института Макса Планка. В своей работе авторы смоделировали два сценария: 1. Сдерживающий сверхсильный ИИ путем ограничения его доступа к интернету для свободного обмена данными. Тогда он не достигнет критической мощности и будет нацелен, прежде всего, на решение гуманитарных и этически оправданных задач. Но и возможности такого интеллекта тоже будут существенно ограничены. 2. Использующий специальные алгоритмы, которые бы удерживали ИИ от причинения вреда человеку. К сожалению, на этом пути могут возникнуть ошибки и препятствия. «Если мы посмотрим на проблему с точки зрения основ информатики, окажется, что алгоритм, который должен остановить ИИ от разрушительных действий, может заблокировать свои же операции. Когда это произойдет, вы даже не распознаете, продолжает ли алгоритм анализировать угрозу или остановился при сдерживании вредоносного ИИ. По сути, это делает такой алгоритм непригодным для использования», — заявил Ияд Рахван, директор Центра людей и машин Института Макса Планка. Таким образом, эксперты пока не видят никакой технической возможности сдерживать ИИ от вредоносных действий. Более того, они утверждают, что могли и не заметить, что машины уже приблизились к критической отметке развития. Поэтому сейчас перед нами стоит и другая задача — распознать этот момент… Капитан дочитал статью и со вздохом приступил к составлению аналитической записки для своего руководства на основе недавно поступившей информации из-за рубежа. Глава 1 28 июля 2032 г. Маунтин-Вью, Калифорния. Я проснулся от противного звонка будильника. С глухим стоном отключил буравящий мозг зуммер и откинулся на подушки. Что же так голова раскалывается? Неужели вчера перебрал пива на вечеринке? Вроде, от пива никогда так плохо не было… И что это за муть с мельтешащими точками перед глазами? Воспоминания вчерашнего вечера начали медленно возвращаться. Как там говорила руководительница на празднике, посвященному съезду делегатов от разных филиалов Корпорации? «Вы станете проводниками нового мира, который меняется на ваших глазах, вы будете паладинами света, несущие новые технологии в отсталые страны третьего мира». Что-то там еще было про свободу выбора каждого человека и прочие демократические ценности… Черт! Неужели я все-таки подписался на это? Ощупал голову и нашел за левым ухом саднящий бугорок. Меня чипировали! Как я мог согласиться на это, я же. вроде, не хотел? Не иначе, как на меня нашло помутнение разума. Ничего не помню. Интересно, а что с нашими остальными ребятами? Осторожно встал с кровати и направился в ванную. Из зеркала на меня глянул знакомый молодой человек, и от сердца сразу отлегло — ничего с моей внешностью за ночь не случилось. Рост метр восемьдесят пять, спортивного телосложения (все-таки занимался с младших классов боксом и единоборствами, а потом, уже учась в МГУ, начал постигать «путь гармонии духа» или по-простому айкидо), темные волосы, голубые глаза. Девушки считают меня симпатичным, но, по моему мнению, внешность у меня самая обычная. Что еще? Двадцать четыре года, не женат, не служил, не привлекался. Будущее светило каких-нибудь наук. Не зря же я поступил на бюджет Мехмата МГУ и закончил его в числе лучших? Затем стажировка в российском филиале мирового ай-ти гиганта, и, как справедливая оценка моего потенциала, предложение о работе в этом же филиале. И вот сейчас командировка сюда — в сердце Корпорации, расположенное в кампусе городка Маунтин-Вью в составе нашего отдела по тестированию и сопровождению искусственного интеллекта. Зарядку делать не стал, чтобы не усугубить головную боль, принял контрастный душ и спустился в столовую при гостинице для командированных. Набрал себе местной еды: стандартные корнфлэйксы с холодным молоком, крупные листья салата, тосты с джемом и холодный кофе. Это какой-то кошмар. Американцы повернуты на всем холодном: кондиционеры везде и вымораживают не по-детски, чай-кофе со льдом. Пока ехали сюда, Наташка заказала горячий чай. Так пока в той точке фастфуда кипятили воду в обычном чайнике, мимо прошла целая очередь любителей ледяных газировок. А вот и Наталья, машет рукой из-за занятого столика со своим подносом американских разносолов. Девчонка, конечно, умница, в чем не раз удалось убедиться, пока вместе учились на мехмате. Тоже сама поступила на бюджет и даже закончила с красным дипломом. Невысокая и стройная красавица — не обделил ее Бог внешностью и фигурою. И ума отсыпал с лихвой, и язык острый дал. Из-за чего она одна до сих пор. Хотя многие на курсе пытались к ней подкатить, в том числе и я. Все-таки парней на мехмате традиционно больше девчонок раза в два, а красивые девчонки везде нарасхват. — Schwein! Pass auf, wo du hingehst! — недовольно воскликнул впереди стоящий высокий блондин, которого я, задумавшись, нечаянно задел подносом. — Sorry! — я на автомате извинился и на секунду завис. И ведь было от чего: я ни дня не изучал язык Гете и Канта, но моментально понял, о чем мне сейчас сказал этот белобрысый немец. Словно в мозгу щелкнуло, и одновременно со словами незнакомца прозвучал перевод: «Свинья! Смотри куда прешь!» — Гончарова, привет! — все еще находясь в непонятках, я приземлился за стол к одиноко сидящей Наташке. — Иванов, а чего это ты на людей с утра пораньше кидаешься? — подначила меня эта ехидна. — Что, мальчик понравился? — Да нет, ты же знаешь, я не из этих, — я покрутил в воздухе кистью руки, подбирая определение. — А чего? Смотри — настоящая белокурая бестия! Красавчег! Наверняка, истинный ариец, характер нордический, беспощаден к врагам и так далее. Как он там тебя обозвал? — Наташа, ну не начинай опять подкалывать, дай поесть спокойно! Голова и так трещит, — попытался урезонить поймавшую волну девушку и, ворча, начал ковыряться в листья салата. — Я его «швайнэ» ему еще припомню… Слушай, как так получилось: он по-немецки шпрехал, а я все понял, хотя знаю всего пять слов из фильмов? — Лешенька, тебе что, уже с утра голову напекло? — с участливым видом потрогала мой лоб несносная девица. — Или ударился где? Хотя, вроде, синяков не видно. Нам же вчера дали методички по функционалу установленных имплантов после подписания контракта. Там все написано. Ты что, не читал? — Натусик, по-человечески тебя прошу, кончай хохмить! — я начал закипать. — Не помню я ничего, что было вечером. Может из-за акклиматизации или сдвига часового пояса устал вчера и отрубился. Какой контракт, какие методички? Ты, вообще, о чем?! — Вот что алкоголизм делает с детскими неокрепшими организмами! Вчера же всех предупреждали: после установки чипов минимум неделю без алкоголя! Так вы же с Максиком самые умные! «Ничего не будет от кружки пива!» «А слабо полирнуть текилой?» «А вы знаете коктейль «Северное сияние?» Так и ушли в полярную ночь, бросив нас с Катькой на растерзание местным кавалерам! — высказала эта зараза мысли о своем, о девичьем. — Ну, кто кого растерзает, это спорное утверждение. Вы с Катериной, когда не на ножах, страшная сила! — Не подхалимничай! Мы — девушки слабые и беззащитные. Пришлось вас переть на себе в нумера. Я тебя вытаскивала с поля боя, а Катерина — Максика. Я-то тебя в твой номер отволокла, а вот Катька могла Макса и к себе затащить. Она давно к нему неровно дышит, а тут такой повод! — Она не к нему, а к должности его неровно дышит и кошельку. Все-таки Максим Викторович наш начальник с повышенным достатком, ему всего тридцатник стукнул, и карьере его многие завидуют, — рассудительно ответил я. Но одна мысль не давала мне покоя: — Наташ, а между нами вчера что-то было? — О-о-о, такого феерического приключения у меня давно не было! Я использовала все любимые игрушки для своих фантазий, пока ты был в полной моей власти, — произнесла мечтательно Наташа, закатив глаза к потолку. А затем, увидев мои удивленно приподнятые брови, откинулась на спинку стула и заразительно засмеялась. Вытерев проступившие от смеха слезы, сказала: — Видел бы ты себя со стороны, Иванов! Успокойся, ничего у нас не было, и быть не могло. Мне надо, чтобы парень был умнее меня. А ты со своим рабоче-крестьянским умом до моего идеала не дотягиваешь. Я стал задумчиво завтракать, размышляя, где же в прошлой жизни так нагрешил, что карма мне вернулась в виде такой вот ядовитой одногруппницы, которая теперь еще и коллегой стала. Посмотрев на мой задумчивый вид, Наталья снизошла до нормальных объяснений. — Для контуженных повторяю самое интересное. Первое: чип — это сложное устройство типа удаленной рабочей станции с модемом, которое позволяет мозгу напрямую работать с сервисами Корпорации. Начиная от навигатора, скачивания интересующего контента и автоперевода иностранных языков, заканчивая обменом личных данных и поручений с банками, страховыми компаниями и медицинскими учреждениями. — Это что, получается, — перебил я в возмущении, — мы зря учили всю жизнь эти долбанные иностранные языки, а какой-нибудь двоечник поставил себе чип и сразу стал полиглотом?! — Лешенька, если будешь перебивать, сам пойдешь дальше читать методичку, — елейным голосом предупредила Наташа. — Так вот, сам подумай. У нас от изучения иностранных языков сплошные плюсы: лучше память, не надо надеяться на облачные словари, которые могут отключиться от нехватки денег на счете или магнитной бури, Альцгеймер будет грозить гораздо позже. Да и вообще, чипирование — это платная процедура. Никто необразованных людей в Африке или двоечников в России бесплатно чипировать не будет… Ну, с этим вопросом разобрались. Идем дальше. Второе: чип осуществляет медицинскую поддержку организма. Вместе с чипом подселяется колония нанороботов, которые собирают информацию обо всех органах и передают ее через чип в облачное хранилище для анализа. Тебе не надо ходить по клиникам, лаборатория все время вместе с тобой, точнее внутри тебя. Настраиваешь своего доктора, и он тебе выдает отчеты или рекомендации о твоем здоровье. Третье: при помощи нанороботов можно изменять свое тело. Вплоть до отращивания ампутированной конечности. Но это все рекомендуются делать под надзором специалистов. Я вот себе первым делом зрение исправлю, надоело таскать очки, — Наталья поправила на носу стильную оправу. — Фига се, перспектива! Так это, Корпорация под себя подомнет не только все здравоохранение, но и всю косметологию! Зачем идти девушке к врачу, когда скомандовал чипу, и у тебя вместо единички уверенная троечка! — мечтательно сказал я. — Кто о чем, а вшивый о бане! — девушка покосилась на свою скромную грудь. — Иванов, все бы тебе опошлить! Дальше разбирайся сам. Или вон, Морозову спроси, — Наташа прищурилась на входящую в столовую парочку и с досадой поджала губы. От входа двигались к стойке раздачи Морозова и Лукин. Если Наташа была красива спокойной славянской красотой: пропорциональная фигура, пшеничного цвета волосы и голубые глаза, то Морозова Катерина была кубанской красавицей — жгучей спортивной брюнеткой с карими глазами, ростом под метр восемьдесят и выдающимися формами третьего размера. Катерина была постарше нас лет на пять и являлась, по мнению Наташи, классической охотницей на мужчин. Эдакой интеллектуальной леди-вамп, поскольку получить работу во всемирно известной Корпорации одной смазливой внешности было явно недостаточно. Нас принял Лукин во вновь образованный отдел российского офиса всех троих одновременно. И с самого первого дня Катерина стала объектом особого внимания и подколок Наташи, даже не знаю почему. Женская дружба — дело тонкое, проявляющееся где-то на уровне инстинктов. Вроде и подруги, но проскальзывает иногда повышенная стервозность с обеих сторон. Хотя, надо отдать должное, никогда подколки, переходящие в оскорбления, ни Катерина, ни Наташа, себе не позволяли. Тем временем, Морозова и Лукин набрали себе фастфуда и направились в нашу сторону. Наташа резко засобиралась к выходу. — Ну, все, передаю палочку эстафеты в нежные, но сильные руки Катерины Сергеевны. Не забудьте, сегодня всех собирают на брифинг после обеда. Все, я пошла. Увидимся на собрании, — махнула рукой и слиняла. — Привет! А куда это ты Наталью отправил? — спросил подошедший вместе с Катериной Лукин. — Все нормально? — Доброе утро. Пошла готовиться к брифингу, наверное, — пожал я плечами. — Макс, ты же знаешь, это только нам, мужчинам, можно не бриться и даже не расчесывать шевелюру. Мы же сразу родились красивыми в отличие от женщин, которым надо, и накраситься, и маникюр-педикюр, и три часа на укладку волос, и еще час на депиляцию… Максим Викторович Лукин — наш непосредственный начальник, был ярким представителем золотой молодежи своего поколения. Родился в России на семь лет раньше нас с Натальей, закончил московскую спецшколу с английским уклоном и уехал получать высшее образование в Америку. Закончил Гарвард, был принят в штат международного ай-ти гиганта, вернулся в Россию в 2030 году создавать новое направление и руководить нашим отделом — после отмены США части санкций против России Корпорация вновь начала открывать офисы на постсоветском пространстве. За время учебы в Америке Лукин приобрел демократический стиль управления, поэтому называли мы его просто Макс. В это же время отечественное воспитание давало о себе знать, что выражалось в снисходительном и вальяжном общении со своими подчиненными. Ростом Макс был с Катерину под метр восемьдесят, имел спортивную фигуру и внешность классических голубоглазых блондинов, которые так нравятся женщинам. — Алекс, на тебя вредно влияет твоя подруга, — Лукин сократил на английский манер мое имя. Поглядев украдкой, как на его слова реагирует Катя, продолжил: — изящнее, изящнее надо шутить. Не все могут понять столь плоские шутки. И вообще, женщина — это создание, которое нужно любить. Не умеешь любить — сиди и дружи! Катерина многообещающе улыбнулась и молча приступила к завтраку. М-да, видать, в нашем отделе можно шутить всем, кроме меня. — Наташа не моя подруга, мы просто учились вместе, — проворчал я. — Макс, ты в курсе про брифинг после обеда? Что там будет интересного? — Там будет выступать мисс Вандер. Согласись, это всегда интересно послушать своего начальника, а тем более руководителя всего проекта! Катерина хмыкнула, Лукин на нее покосился и продолжил: — Катя, обязательно всем быть в три часа в конференц-зале. Мы здесь всего на месяц, в конце августа возвращаемся. Сейчас нам надо сразу влиться в рабочий процесс, несмотря на сдвиг по времени и акклиматизацию. Ну, мы все ребята спортивные, справимся. Конечно, справимся, куда мы теперь денемся с подводной лодки да еще с чипами в головах? Пожелав приятного аппетита, свалил к себе в номер изучать методичку. На выходе пропустил вперед себя двух корейцев, обсуждающих возможности вживленных нам чипов на своем языке. Что характерно, опять все понял. Интересно, а есть языки, которые нам не подгрузились? Бурятский там или нанайский. У кого бы спросить? *** Кабинет на Пенсильвания авеню, Вашингтон, округ Колумбия. — Мистер Паркинсон, вызывали? — Заходи, Малдер. Времени в обрез, даю вводную: от нашего крота из-за океана пришла информация, что в составе русской группы приехал шпион под видом стажера. Сейчас происходит финальная стадия запуска Морганы. Нельзя допустить, чтобы русские своровали наши разработки и начали противодействие раньше времени. Ваша задача — найти шпиона и перевербовать. Или обезвредить, если перевербовка невозможна. — Босс, я слышал, этот проект находится под крылом АНБ. Они явно хотят в Европе с помощью новой игрушки взять реванш у русских. Зачем нам туда совать свой нос? — Малдер, сам подумай. Ты же сам назвал главную причину, почему мы должны туда влезть. ФБР[3] должно быть в курсе, что происходит в Маунтин-Вью. А еще лучше, если мы получим рычаги влияния. В общем, бери агента Скалли и выдвигайся. Наладите взаимодействие с безопасниками на месте. — Да, сэр! Слушаюсь, сэр! Разрешите выполнять? — Малдер, не пытайся выглядеть тупым солдафоном. Я знаю, что ты закончил МИТ[4] с отличием, поэтому и отправляю тебя в это логово яйцеголовых. Ты должен разобраться. По твоим результатам планируется организовать сенатскую комиссию. Главное, чтобы эти результаты были. У вас срок — максимум три недели. Не подведи меня и свою страну, сынок. Глава 2 Методичка из пяти листов, больше похожая на рекламный буклет, оказалась с грифом ДСП (для служебного пользования) и подлежала возврату под роспись. Удивившись такому подходу, погрузился в изучение материала. Итак, опускаем вводную часть про мир во всем мире, счастье для всех сразу и прочую розовую муть, направленную на доверчивых обывателей. Из практической информации вычленил следующее: Первое — чипы работают в качестве модемов по обмену информации между сервисами, расположенными на серверах Корпорации, и мозгом человека. По сути, создается своя экосистема с жестко прикрепленными пользователями. Видимо, маркетологи переработали успешный опыт яблока. Второе — в чипах хранится вся информация о человеке, начиная с паспортных данных и медицинской карты, заканчивая полным описанием расшифрованного генома носителя чипа. В дальнейшем пользователям не нужны будут ни водительские удостоверения, ни паспорта, ни медицинские и банковские карты. Интересно, а если чип сломается? Вся жизнь с чистого листа? Непонятно.