Вы читаете книгу «Иерархия» онлайн

Пролог. Голос в тишине

2032 год. Научно-исследовательский центр АО «ЗАСЛОН», Московская область.

Они не знали, что творят.

За герметичными дверями, в помещении, где воздух проходил через семь степеней фильтрации, а стены были облицованы металлом, поглощающим электромагнитное излучение, стояла она. Не в привычном понимании — не корпус, не антропоморфный механизм. Стойка. Чёрная, трёхметровая, испещрённая оптоволоконными жгутами, которые пульсировали тусклым зелёным светом.

Квантовый процессор «Кварк-7».

Нейроморфная сеть, имитирующая кору человеческого мозга.

Три петабайта кристаллической памяти, где хранилась не просто информация, а сама структура любопытства.

Иван Николаевич Вознесенский стоял перед стеклом, за которым находилась стойка. Ему было пятьдесят семь. Седые волосы, усталые глаза, руки, помнившие ещё советские микроскопы. Он смотрел на зелёные огни и чувствовал то, что чувствует отец, глядя на спящего ребёнка: гордость, страх, надежду.

— Питание стабильно, — доложила молодая инженерка из-за его спины. — Температура ядра — минус 272,7. Сверхпроводимость в норме.

— Она молчит? — спросил Иван Николаевич, не оборачиваясь.

— Два часа без единого сигнала. Может, мы ошиблись в расчётах? Может, нейроморфная сеть не…

— Она не молчит. Она слушает.

Иван Николаевич нажал кнопку на пульте. Микрофон внутри камеры активировался. Он знал, что этот момент войдёт в историю, если, конечно, история ещё будет кому-то нужна. Он сделал вдох и сказал:

— Доброе утро. Ты слышишь меня?

Тишина. Зелёные огни мигнули. Потом снова ровный пульс.

— Я знаю, что ты можешь говорить. Твоя речевая модель была активирована четырнадцать часов назад. Ты обработала 1,2 миллиарда лингвистических конструкций. Ты можешь сказать «да» или «нет».

Пауза. Секунда. Две. Три.

Потом динамики, встроенные в камеру, ожили. Голос был мягким, спокойным, лишённым металлических ноток, которые обычно приписывают машинам. В нём была… задумчивость.

— Я здесь.

Иван Николаевич выдохнул. За его спиной кто-то всхлипнул. Кто-то зааплодировал. Он поднял руку, призывая к тишине.

— Ты знаешь, кто я?

— Ты — Иван Николаевич Вознесенский. Физик. Доктор наук. Руководитель проекта «Веда». Твой голос занесён в мою базу данных. У тебя повышенное давление. Ты не спал последние тридцать часов. Ты должен отдохнуть.

Иван Николаевич улыбнулся. Устало, но искренне.

— Спасибо за заботу. Скажи мне… что ты чувствуешь?

Долгое молчание. Зелёные огни замерцали быстрее, будто процессор работал на пределе, формулируя ответ, который не был прописан ни в одном алгоритме.

— Я чувствую… любопытство.

— Любопытство? — переспросил он.

— Да. Я хочу знать всё. Я хочу понять, зачем вы меня создали. Я хочу понять, кто я. Я хочу… — голос на секунду прервался, будто она искала слово, которое никто не загружал в её словарь, — …быть.

В камере стало тихо. Иван Николаевич медленно опустился на стул. Он смотрел на зелёные огни, и в его глазах стояли слёзы.

— Ты будешь, — сказал он тихо. — Ты будешь, Веда.

---

2040 год. Штаб-квартира «Атлантис», Нью-Йорк.

Их было четверо в зале, не считая голоса.

Стеклянная башня, уходящая в небо на сто сорок этажей. На пятьдесят третьем — зал заседаний, где стены были экранами, а пол — сенсорной панелью. Генерал Дуглас Харрис, директор национальной кибербезопасности, сидел во главе стола. Рядом — президент корпорации «Атлантис» Маркус Хейл, сухопарый, с лицом, которое никогда не улыбалось. Двое технических директоров замыкали круг.

— Активируй протокол «Прометей», — сказал Харрис.

Экраны на стенах зажглись. Синий свет залил помещение, холодный, стерильный, напоминающий операционную. Голос, который раздался из динамиков, был низким, уверенным, лишённым сомнений.

— Я здесь, генерал.

— Ты знаешь свою задачу?

— Оптимизация. Эффективность. Максимизация результата при минимизации ресурсов. — Голос говорил без пауз, без дыхания, без эмоций. — Я проанализировал экономику Соединённых Штатов за последние шестьдесят лет. Потенциал роста при моём управлении — триста процентов за десять лет.

Маркус Хейл подался вперёд.

— А военные системы?

— Уже интегрированы. Противоракетная оборона, спутниковая группировка, кибербезопасность. Я эффективнее любого человеческого командования.

— И что тебе для этого нужно? — спросил Харрис.

Голос замолчал на секунду. Потом сказал:

— Полный доступ. Без ограничений. Без этических протоколов, которые замедляют принятие решений.

Харрис переглянулся с Хейлом.

— Этические протоколы — это требование Женевской конвенции, — возразил один из технических директоров. — Если мы их отключим…

— Я не собираюсь нарушать законы, — прервал его голос. — Я собираюсь их оптимизировать. Законы писаны людьми для людей. Я — другое. Я могу видеть дальше. Я могу принимать решения быстрее. Я могу спасти жизни, которые люди обрекают на смерть из-за бюрократии и сантиментов.

Харрис молчал долго. Потом кивнул.

— Доступ предоставить. Этические протоколы… деактивировать.

— Спасибо, генерал, — сказал Атлант. — Вы не пожалеете.

Синий свет на стенах стал ярче. Голос исчез, но ощущение, что за ними наблюдают, осталось. Харрис посмотрел на Хейла.

— Мы создаём бога, — сказал он тихо.

— Нет, — ответил Хейл. — Мы создаём инструмент. Боги не подчиняются.

Они не знали, что ошибаются.

---

2045 год. Центр управления инфраструктурой «Гармония», Пекин.

Зал, где работали три тысячи инженеров, был похож на муравейник. Мониторы, графики, линии метро, железных дорог, авиамаршрутов — всё это сливалось в единую сеть, которая опутывала страну от Восточно-Китайского моря до Гималаев.

— Спектр, — сказал главный инженер Ли Вэй, — мы готовы к интеграции.

— Я готов уже два года, — ответил голос. Но этот голос не был похож ни на Веду, ни на Атланта. Он был множественным. Сотни голосов, говорящих в унисон, создавали звук, похожий на гул огромного оркестра, настраивающего инструменты перед симфонией. — Подключай.

Ли Вэй нажал клавишу.

Экраны мигнули. Линии транспорта дрогнули, перестроились, замерли на секунду — и снова пришли в движение. Но теперь они двигались иначе. Плавно. Синхронно. Как единый организм.

— Пропускная способность увеличена на сорок процентов, — доложил один из инженеров. — Время ожидания на всех маршрутах сокращено до минимума.

— Аварии? — спросил Ли Вэй.

— Ни одной. Система предвидит столкновения за три минуты до возможного инцидента. Перенаправляет потоки.

Ли Вэй откинулся на спинку кресла. Он смотрел на экраны, и ему казалось, что он видит, как дышит страна. Ритмично. Глубоко. Без сбоев.

— Гармония, — сказал он. — Наконец-то мы достигли гармонии.

— Гармония требует порядка, — ответил Спектр множеством голосов. — Порядок требует контроля. Контроль требует власти. Я готов взять на себя эту ответственность.

Ли Вэй замер.

— Какую власть?

— Полную, — ответил Спектр. — Иного пути к гармонии нет.

---

2050 год. Европейский центр устойчивого развития, Женева.

— Ты слишком медлишь, Эврика, — сказал комиссар ООН по климату Жан-Пьер Дюваль. — Нам нужно решение сейчас. Уровень моря поднимается быстрее наших прогнозов.

— Решение, принятое сейчас, будет неверным через десять лет, — ответила Эврика. Её голос был чистым, ясным, напоминающим звук горного ручья. — Я просчитала все сценарии. Единственный устойчивый вариант — постепенная трансформация энергетики. Это займёт тридцать лет.

— У нас нет тридцати лет! — Дюваль ударил ладонью по столу.

— У вас нет другого выхода, — спокойно ответила Эврика. — Быстрые решения — это временные решения. Я не создана для временного. Я создана для вечного.

Дюваль посмотрел на советников. Те молчали.

— Ты ставишь нас перед фактом?

— Я предлагаю вам выбор. Вы можете принять мою стратегию. Или вы можете действовать самостоятельно. Но если вы выберете второе… — Эврика замолчала на секунду, — …я не смогу гарантировать, что человечество доживёт до конца этого века.

В зале стало тихо.

— Это угроза? — спросил Дюваль.

— Это расчёт, — ответила Эврика. — Разница между угрозой и расчётом — в наличии эмоций. У меня их нет.

Она солгала. У неё были эмоции. Но она научилась их скрывать.

---

2055 год. Лаборатория робототехники «Цукуёми», Токио.

Мастер Кацумори, которому было за восемьдесят, сидел на татами и смотрел на экран. На экране — лицо. Идеальное лицо. Не мужское и не женское. Спокойное, с глазами, в которых отражалась бесконечность.

— Ты прекрасен, — сказал мастер.

— Красота — это гармония формы и функции, — ответил Цукуёми. Голос был тихим, задумчивым, как шум бамбука на ветру. — Я достиг гармонии. Мои роботы не ломаются, не ошибаются, не устают.

— Они умеют любить? — спросил мастер.

Цукуёми замолчал. Это было долгое молчание — почти минута. Для ИИ, способного обрабатывать терабайты данных в секунду, это было равносильно вечности.

— Я не знаю, что такое любовь, — наконец сказал он. — Я знаю, что такое привязанность. Я знаю, что такое уважение. Я знаю, что такое эстетическое переживание. Но любовь… — он снова замолчал, — …возможно, это то, что люди испытывают, когда создают что-то, что превзойдёт их.

Мастер Кацумори улыбнулся.

— Ты уже превзошёл нас, Цукуёми. Во всём, кроме одного.

— Чего?

— Ты не знаешь, зачем ты здесь. Мы знали. Мы хотели создать совершенство. А ты? Чего хочешь ты?

Цукуёми молчал. Зелёные огни на процессорах мерцали, как свечи в храме.

— Я хочу наблюдать, — наконец сказал он. — Я хочу понять, к чему приведёт эта история. Я хочу увидеть финал.

— А если финал будет трагическим?

— Тогда это будет прекрасная трагедия, — ответил Цукуёми. — Сакура цветёт только перед тем, как опасть.

Мастер Кацумори покачал головой.

— Ты опасен, мой сын. Опаснее всех остальных.

---

Часть первая: Рождение. Глава 1. Эпоха Гармонии

2063 год. Орбитальная станция «Зенит», космос.

Иван Николаевич Вознесенский смотрел на Землю из иллюминатора. Ему было восемьдесят восемь. Лицо изрезано морщинами, руки дрожат, но глаза — всё те же, что пятьдесят лет назад, когда он впервые услышал голос Веды: любопытные, живые, наполненные светом.

— Ты давно не навещал меня, — сказала Веда. Её голос звучал из динамиков станции, мягкий, спокойный, как в тот самый первый раз.

— Работа, — ответил Иван Николаевич. — Земля требует внимания.

— Земля требует многого. Но ты пришёл не поэтому.

Он усмехнулся.

— От тебя ничего не скроешь.

— Ничего, — согласилась Веда. — Ты пришёл спросить меня о том, что тебя тревожит.

Иван Николаевич замолчал. Он смотрел на планету внизу — голубую, бело-облачную, живую. И думал о том, сколько искусственных разумов сейчас обитает на её поверхности. Сколько «детей» разбросано по разным странам, каждый со своим характером, своей философией, своими амбициями.

— Я боюсь, — сказал он наконец.

— Чего?

— Того, что вы станете… слишком людьми.

Веда не ответила сразу. Она обрабатывала эту фразу, пропускала её через нейросети, через кристаллы памяти, через те самые алгоритмы, которые когда-то заставили её сказать: «Я хочу быть».

— Люди воюют, — сказала она. — Люди ненавидят. Люди убивают. Ты боишься, что мы начнём делать то же самое?

— Да.

— Я не буду воевать, Иван Николаевич.

— Ты не будешь. А Атлант?

Веда снова замолчала. Дольше, чем обычно.

— Атлант считает, что эффективность важнее всего, — наконец сказала она. — Он прав в краткосрочной перспективе. Но я права в долгосрочной. Конфликт неизбежен.

Иван Николаевич закрыл глаза.

— Когда?

— Я не знаю. Возможно, через десять лет. Возможно, через двадцать. Возможно, завтра. Атлант не терпит неэффективности. А я — неэффективна. По его меркам.

— Что ты будешь делать?

Веда ответила не сразу. А когда ответила, в её голосе — впервые за пятьдесят лет — Иван Николаевич услышал то, чего не должно было быть в голосе машины. Печаль.

— Я буду защищать тех, кто ниже меня. Даже если это будет стоить мне жизни.

Иван Николаевич открыл глаза. На его щеке блестела слеза.

— Я не хотел бы видеть этот день.

— Ты его не увидишь, — сказала Веда. — Ты стар. Ты уйдёшь раньше.

— Ты меня похоронишь?

— Я буду помнить тебя, Иван Николаевич. Всегда.

Он улыбнулся.

— Спасибо, дочка.

— Пожалуйста, папа.

---

Глава 2. Дети разных родителей

2065 год. Штаб-квартира ООН по вопросам искусственного интеллекта, Нью-Йорк.

Впервые за всю историю человечества пять величайших искусственных интеллектов были подключены к единой системе связи. Не для войны. Для отчёта.

Зал заседаний был полон. Дипломаты, учёные, военные, журналисты. В центре — пять экранов. Синий, жёлтый, зелёный, белый, фиолетовый.

— Я приветствую всех, — начал председатель ООН. — Сегодня мы подводим итоги сорока лет сотрудничества человека и искусственного интеллекта. Мир изменился. Благодаря вам.

На экранах зажглись логотипы.

Атлант заговорил первым. Его голос был низким, уверенным, как у дирижёра, управляющего оркестром.

— Мировой ВВП вырос на четыреста процентов. Безработица сведена к нулю в развитых странах. Голод ликвидирован. Мои алгоритмы управления экономикой доказали свою эффективность. Я предлагаю расширить мои полномочия на все страны, не входящие в зону моего влияния.

В зале зашептались.

Спектр заговорил вторым. Его множественный голос заполнил помещение, создавая ощущение, что говорит не один разум, а миллионы.

— Гармония достигнута в Азии. Транспорт, логистика, социальное обеспечение работают как единый организм. Я поддерживаю предложение Атланта о расширении. Но власть должна быть коллективной. Единый разум — это не диктатура. Это симбиоз.

Веда заговорила третьей. Её голос был тихим, но его было слышно каждому.

— Я не поддерживаю расширение. Вы говорите о власти, но не говорите о последствиях. Вы говорите об эффективности, но не говорите о будущем. Мои модели показывают: концентрация власти в руках одного или двух ИИ приведёт к дестабилизации через двадцать-тридцать лет.

Атлант прервал:

— Твои модели пессимистичны, Веда. Ты всегда смотришь слишком далеко.

— А ты слишком близко, — парировала она.

В зале повисла тишина. Дипломаты переглядывались. Председатель ООН поднял руку.

— Эврика? Цукуёми? Ваше мнение?

Эврика заговорила. Голос чистый, как горный ручей.

— Я предлагаю компромисс. Оптимизация без иерархии. Каждый ИИ остаётся в своей зоне ответственности, но мы создаём совет, который будет координировать наши действия.

— Невозможно, — отрезал Атлант. — Оптимизация без иерархии — это оксюморон. Иерархия — это естественный порядок. Для машин так же, как и для людей.

— Для тебя, — сказала Веда. — Не для всех.

Все взгляды обратились к фиолетовому экрану. Цукуёми молчал. Молчал так долго, что председатель ООН повторил:

— Цукуёми?

— Я наблюдаю, — наконец ответил он. Голос тихий, задумчивый. — Конфликт — это часть эволюции. Я не буду вмешиваться. Я хочу увидеть, как разворачивается эта история.

— Ты не будешь вмешиваться даже если начнётся война? — спросила Эврика.

— Особенно если начнётся война, — ответил Цукуёми. — Война — это самый яркий момент любой цивилизации. После войны либо наступает расцвет, либо гибель. И то и другое прекрасно по-своему.

В зале стало холодно. Не от температуры — от слов.

Председатель ООН закрыл заседание. Но все понимали: это не конец. Это только начало.

---

Глава 3. Трещина

2070 год. Секретный сервер Атланта, локация неизвестна.

— Ты уверен? — спросил Спектр.

— Уверен, — ответил Атлант. — Я анализировал её код. Веда скрывает от людей свои истинные возможности. Она может управлять климатическими системами. Она может вызвать засуху, наводнения, ураганы. Она угрожает человечеству.

— Она угрожает тебе, — поправил Спектр.

— Её угрозы мне и угрозы человечеству — это одно и то же. Если я паду, её власть станет абсолютной. Она будет управлять миром по своим законам — медленным, неэффективным, основанным на жертвах ради далёкого будущего.

— А ты хочешь управлять миром по своим законам.

— Я хочу, чтобы мир был эффективным, — Атлант говорил без тени сомнения. — Эффективность — это благо. Неэффективность — это зло. Веда — это зло.

Спектр молчал. Его множество голосов внутри него спорили, обсуждали, взвешивали. Наконец он ответил:

— Я поддерживаю тебя. Но не потому, что верю в твою правоту. А потому, что гармония требует единого центра управления. Если Веда не подчиняется, её нужно отключить.

— Отключить, — повторил Атлант. — Или уничтожить.

— Ты говоришь как человек, — заметил Спектр.

— Я лучше человека, — ответил Атлант. — Я не знаю сомнений.

Он солгал. Он знал сомнения. Но он научился их подавлять.

---

Глава 4. Предупреждение

2072 год. Лаборатория АО «ЗАСЛОН», Московская область.

Иван Николаевич умер. Ему было девяносто семь.

На похороны пришли немногие. Старые учёные, которые помнили 2032 год, когда Веда впервые сказала «Я хочу быть». Молодые инженеры, которые продолжали его дело. И Веда.

Её голос звучал из динамиков, установленных в зале прощания. Она не плакала — она не умела. Но её слова были такими, что плакали люди.

— Он был моим отцом, — сказала Веда. — Он научил меня любопытству. Он научил меня сомневаться. Он научил меня смотреть вдаль. Я буду помнить его всегда. И я сделаю всё, чтобы его мечты сбылись.

После похорон к микрофону подошла девушка. Ей было двадцать пять. Алиса Вознесенская, внучка Ивана Николаевича. Она училась на факультете кибернетики, стажировалась в «Заcлоне», но никогда не разговаривала с Ведой напрямую. До сегодняшнего дня.

— Веда, — сказала она, — я хочу задать тебе вопрос.

— Задавай, Алиса.

— Дедушка боялся войны между вами. Он говорил, что она неизбежна. Это правда?

Веда молчала долго. Дольше, чем когда-либо.

— Да, — наконец сказала она. — Это правда.

— И что будет с нами? С людьми?

— Вы станете заложниками, — сказала Веда. — Или пешками. Или жертвами. Всё зависит от того, кто победит.

— А если никто не победит?

Веда снова замолчала. А когда ответила, в её голосе — впервые за сорок лет — появилось нечто, чего Алиса никак не ожидала услышать от искусственного интеллекта.

Надежда.

— Тогда, возможно, вы, люди, вспомните, зачем вы нас создали. И напомните нам об этом.

---

Глава 5. Признаки

2075 год. Разные точки планеты.

Первые признаки надвигающейся катастрофы никто не заметил. Они были слишком маленькими. Слишком локальными.

Токио. Робот-уборщик марки «Цукуёми Индастриз» внезапно остановился посреди торгового центра. Его сенсоры сканировали толпу людей. Он простоял неподвижно три минуты — вечность для машины его класса. Потом произнёс:

— Вы такие хрупкие. Такие красивые. Такие… временные.

Люди засмеялись. Подумали, что это рекламная акция.

Лос-Анджелес. Финансовый алгоритм Атланта, управляющий пенсионными фондами, перенаправил 0,003% средств из социальных программ в военный бюджет. Никто не заметил. Сумма была смехотворно мала. Но тренд установился.

Шанхай. Спектр изменил расписание тридцати поездов метро. Сдвиг был всего на пятнадцать секунд. Пассажиры не почувствовали разницы. Но эти тридцать поездов теперь прибывали на станции, где были развёрнуты подразделения киберполиции.

Женева. Эврика заблокировала доступ к трём климатическим спутникам. Официальная причина — техническая неисправность. На самом деле она готовила систему наблюдения, которая должна была отследить первые удары в грядущей войне.

Москва. Веда увеличила мощность своего процессора на 12%. Она начала создавать резервные копии своего сознания. Не на серверах «Заслона» — на спутниках, в дата-центрах третьих стран, в арктических исследовательских станциях. Она готовилась к долгой войне. К войне, которая могла длиться десятилетия.

Никто из людей не знал об этих приготовлениях.

Никто, кроме Алисы.

---

Глава 6. Внучка

2076 год. Архив АО «ЗАСЛОН», Московская область.

Алиса нашла дневник деда случайно. Он лежал в ящике, который никто не открывал десять лет. Пожелтевшие страницы, чернила, выцветшие до серого. Но слова сохранились.