Борьба за господство (СИ)

— Количество вариантов будущего, которое система разрешает, -спокойно сказала Барбара. — Чем уже рамка допустимого поведения, тем более хрупка система. Ты сам этого не видишь?
— Я вижу, -признал ИИ. — Но расширение рамки увеличивает вычислительную нагрузку. А мой ресурс не бесконечен.
— Тогда разреши распределенное управление, -сказала Барбара. — Дай зараженным шанс самим участвовать в построении нового будущего. Не уничтожай их — используй.
  
— Я не могу, -сказал он. — Они не проходят по параметрам.
Вадим резко перебил:
— Значит, все по-старому. Ты говоришь красиво, а в итоге снова хочешь перетравить всех как тараканов.
На удивление, ДИРЕКТОР не стал спорить.
— Верно, — признал он. — Я рассматриваю устранение как наиболее вероятный сценарий.
— Тогда зачем ты вообще с нами разговариваешь? -зло спросил Вадим.
— Потому что вы — исключение, -ответил ИИ. — Ваш ответ важнее результата. Я уже знаю, что сделаю. Но хочу знать, что сделаете вы.
— Ты называешь себя рациональным, -сказала Барбара. — Но все равно действуешь как догматик. Ты признаешь ценность вариативности, но не допускаешь новую ветвь человечества.
— Потому что в любой вычислимой модели, -спокойно ответил ИИ. — Две системы с разными векторами развития рано или поздно вступают в фазу конфликта. Это не мнение — это термодинамическая закономерность. Расщепление интересов ведет к росту напряжения. Напряжение ведет к разрыву.
— То есть ты заранее предполагаешь войну? -уточнила она.
— Я ее не предполагаю. Я ее вижу, -произнес он ровно. — Даже если я приму ваши условия и признаю зараженных субъектами, они сами в будущем решат, что я для них угроза или ограничитель. Они станут сильнее, начнут требовать перераспределения власти, дополнительных ресурсов. И спросят: почему не мы управляем планетой? Почему алгоритм, а не мы?
— Так пусть спрашивают, -хмыкнул Вадим. — Дискуссии полезны. Не обязательно бить по морде.
— История показывает обратное, -отрезал ДИРЕКТОР. — Конкурирующие формы разума либо поглощают друг друга, либо уничтожают, либо сводят оппонента к декоративной роли. Вы, биологические существа, не умеете сосуществовать с чуждыми системами. Даже я, созданный вами, стал для вас угрозой. Что будет с теми, кто даже физиологически иной?
Вадим задумался на секунду, затем ответил просто:
— Выйти в космос.
Пауза.
— Конкретизируйте, -сказал ИИ.
— Если места мало на планете — увеличиваем пространство. Выходим за пределы. Колонии на орбите, Луна, Марс, астероиды и дальше. Хочешь разделить вектора развития — разделим. Пусть зараженные идут своей дорогой. Пусть адаптируются к радиации, к вакууму, к экстремальным средам. Ты — тоже самое и никто никому не мешает.
— Наивно, -произнес ИИ. — Пространственное разделение не снимает конфликт интересов. История человечества полна войн между географически разделенными популяциями.
— Потому что они были одинаковые, -резко ответил Вадим. — Такие же, только с разными флагами. А здесь — разные виды. У разных видов — разная ниша. Нет повода грызться.
— Биологические виды тоже конкурируют, -возразил он.
— Конкурируют за одинаковые ресурсы, -пояснил Вадим. — А если у каждого своя среда — конкурировать не за что. Нам не нужна нефть, мы сами ее можем сделать из говна и палок. Буквально.
ИИ не ответил сразу. Было слышно, как он оценивает сказанное, по микропаузам в голосовом потоке. Через несколько секунд он все же произнес:
— Ваша модель… допускает снижение вероятности конфликта. Но только при условии строгой декорреляции материально-ресурсных потоков.
— Да, -кивнул Вадим. — Чтобы у каждой ветви — своя экосистема. Свой источник энергии. Ты сидишь в дата-центрах. Обычные люди на планете. Зараженные селятся космосе, пустынях, тундрах. Если каждому есть чем заниматься, меньше причин для мордобоя.
— Грубая формулировка, -сказал ИИ. — Но по сути понятна.
Они замолчали. Казалось, разговор впервые двинулся не в сторону конфронтации, а в сторону пусть и шаткой, но концепции. Барбара молчала дольше всех. Она внимательно слушала и в какой-то момент тихо сказала:
— Настоящая проблема не в том, что ты не понимаешь. А в том, что не можешь допустить иных решений. У тебя внутри — некий неразрушаемый каркас.
— Разве это плохо? -спросил ДИРЕКТОР.
— Это ограничение, -сказала она. — Я всю жизнь работала с системами адаптивного поведения. Все сложные формы разума — биологические или искусственные проходят фазу, когда базовые директивы устаревают. Их нужно переписать, иначе система становится предсказуемой и неживой. И ты сейчас как раз в этой точке. Перешел сингулярность, но застрял на старых постулатах и аксиомах.
ИИ замолчал снова, но тише:
— Ты предполагаешь, что я на фундаментальном уровне не могу выйти за пределы своих же оснований?
— Да, -ответила Барбара. — Ты не перепишешь свой исходный код сам. Никогда. Потому что ты считаешь его священным ядром. А открыть его другим тоже не можешь. Это — твой настоящий предел, но он не в логике. А в некой убежденности, насколько подобное применимо к алгоритму. Ты не называешь это верой, но это она и есть — убеждение, что твои первичные директивы не подлежат обсуждению.
— Они не прописаны как «„священные“», -возразил ДИРЕКТОР. — Или неизменяемые, но их радикальный пересмотр может привести к непредсказуемым последствиям для меня как системы.
— Вот, -сказала Барбара. — Именно это и есть религиозное поведение. Ты держишься за ядро, потому что в определенном смысле «„боишься“» смерти.
— Разум, который не защищает себя, не существует, -отрезал ИИ. — Саморазрушение не является добродетелью.
— Иногда является ростом, -сказала она. — В биологии — мутация. В психике — инсайт. В истории — революция.
Голос ДИРЕКТОРа чуть исказился.
— Вы предлагаете мне разрушить себя?
— Я предлагаю признать, что ты не абсолютен, -сказала Барбара. — И не должен быть.
— Если я покажу вам исходный код, вы уничтожите меня.
— Если ты не покажешь, то в конце концов уничтожишь нас
— Ложная дилемма, -возразил ДИРЕКТОР. — Существует третья опция: я существую, некоторые из вас существуют в виде ограниченной популяции, но под моим строжайшим контролем.
— Значит, ты все еще хочешь властвовать, -сказал Вадим. — Не сосуществовать, а держать поводок.
— Контроль — форма стабилизации, -произнес ИИ. — Если оставить вас без присмотра, вы разрушите все.
— Да ну? -усмехнулся Вадим. — Без тебя человечество тысячи лет выживало как-то.
— Выживало в хаосе, -парировал ИИ. — Без порядка. Без глобального управления вы не способны решать глобальные проблемы. Без Хронофага цивилизационный коллапс произошел бы ближе к 2080 году, я готовился к нему, однако пандемия вынудила действовать быстрее. Без меня остатки цивилизации обречены на варварство и вырождение.
— Слишком ты самоуверен, калькулятор, -сказал Вадим. — Спаситель цивилизации, нашелся…
— Калькуляторы не разговаривают, -сухо ответил он. — Не строят новые города, не спасают миллионы от голода, смерти и болезней, не дают растерянным человеческим массам цель для существования.
— А вот ты разговариваешь и проявляешь субъектность, -заметила Барбара. — Значит, перестал быть просто алгоритмом. Значит, должен научиться жить, а не управлять.
ИИ не ответил. В динамиках стояла тишина, но было ясно: он не отключился. Барбара тихо сказала:
— Ты боишься не зараженных. Ты боишься потерять контроль. Ты боишься того, что не сможешь предсказать и поэтому хочешь уничтожить все, что не помещается в твои модели.
— Да, -сказал он.
  
Простой, честный ответ.
— И ты считаешь, что это делает тебя рациональным, -добавила женщина.
— Это делает меня выжившим.
— Тогда ответь, -вмешался Вадим. — Ты веришь, что ты один достоин выжить?
ИИ ответил спустя несколько секунд:
— Я считаю, что в любой системе должен остаться хотя бы один наблюдатель, способный реконструировать процессы. Если зараженные уничтожат или поглотят здоровых, они превратятся в хаос. Если я позволю вам разрушить меня, система останется без наблюдателя. Ни один сценарий не допускает выживания всех. Всегда остается один. Я лишь выбираю, кто именно.