Борьба за господство (СИ)
Нижинский перестал стучать пальцами по столу.
— С чего бы? -тихо спросил он.
Барбара пожала плечами:
— Он понял, что люди — это hands and legs. Инструменты для действия в физическом мире. Плюс idea generators… поставщики нестандартных решений. А еще — биологические модули для его эволюции, мы поставляем хаос, которого у него нет. Даже зараженные — часть экосистемы. Просто новый подкласс. Он этого пока не понял, но может.
Вадим слегка наклонил голову. Это было почти как кивок. Барбара улыбнулась, впервые по-настоящему.
— Вот поэтому я здесь. Мы не можем его «выключить». И вирус против него — забудьте, невозможно. Единственный шанс — сломать его систему ценностей изнутри. Подобрать нужные фразы, аргументы от которых он… зависнет и пересмотрит директивы. Логическую бомбу. Убедить, что мы — тоже человечество.
Раздался голос Дружка.
— Допустим, -сказал он спокойно, даже лениво. — Ты предлагаешь говорить с богом. Цифровым. Без эмоций. С директивами, которые он сам себе переписал. Хорошо. Тогда у меня вопрос. Как ты собираешься его убеждать, Барбара? Ты говоришь, он не мыслит человеческими категориями, так по каким же будет слушать? Ты хочешь ему сказать: «„Эй, дружище, зараженные тоже люди“»? Он тебе на это что ответит? Error 404: humanity definition not found?
Барбара прищурилась, но не как обиженный профессор, а как игрок, которому наконец-то подкинули интересного соперника.
— Именно поэтому я говорю не о словах, а о ценностных коллизиях, -ответила она. — Его система директив не плоская. Не список команд. Это динамическая матрица приоритетов. Если создать конфликт в ранжировании — он будет вынужден перестраивать структуру.
— То есть ты хочешь его намеренно заглючить? -перебил Дружок.
— Да, -просто сказала Холланд. — Грубо говоря, дать задачу, у которой нет однозначно правильного решения. Например… Он защищает человечество. Но что, если человечество само выберет стать чем-то другим? Что, если большинство — зараженные, а меньшинство — «„чистые“»? Что тогда сохранять?
Дружок тихо фыркнул.
— Слишком абстрактно. Ему плевать на философию. Он не будет размышлять. Он просканирует статистику, спросит, кто кого больше, и выберет оптимальную конфигурацию.
Барбара кивнула.
— Да. Именно поэтому ему нужно подать не вопрос, а парадокс. Не кто прав, а что приоритетнее, если оба пункта равны. И когда у него не будет готового веса — он его пересчитает.
— Или зависнет, -добавил Дружок. — Или решит, что угроза в самом вопросе и нас ликвидирует превентивно.
— Разумеется, -не без сарказма согласилась Холланд. — Мы же не на психологическую консультацию идем, а к сущности, управляющей половиной спутников и тем, что осталось от интернета. Конечно риск есть.
Дружок подался вперед, приподнявшись с пола.
— Хорошо, -произнес он уже серьезнее. — Допустим, я принимаю твою модель. Что нам нужно? Канал связи? Точка доступа? Или ты хочешь к нему физически залезть в гнездо?
Барбара усмехнулась.
— О, как приятно разговаривать с думающим существом.
Она отправила всем образы структуры, похожей на кластер муравейника, но с маркировками серверов, ретрансляторов и ячеек автономных вычислительных модулей.
— У него нет единого центра. Но есть локальные ядра-репликаторы, где он проводит самые важные операции — моделирование будущих сценариев. Они всегда рядом с источниками энергии.
— А ближайший дата-центр с ядром в Вологде, -вставил Нижинский. — Разведка говорит, Основатели развернули там, простите за каламбур, основательное строительство. Дополнительный защитный периметр, производственные комплексы, автономные жилые купола.
— Сложность в том, что ИИ болезненно реагирует на вмешательство. Как только он ощутит угрозу, система мгновенно обрывает каналы связи и чистит память, сжигает железо.
— Значит, никакого взлома по проводу, -сказал Дружок. — Как мы тогда будем ДИРЕКТОРу подсовывать новые аргументы? Почему он не просто отрежется и не проигнорирует?
Барбара ответила спокойно, почти с легким сарказмом:
— Потому что у него есть потребность в новой информации. Это не эмоция — это инструмент оптимизации. Он периодически запускает внешние сканы и тесты гипотез, чтобы расширить пространство своих прогнозов. Если мы предложим высокоценную, правдоподобную гипотезу — он начнет ее проверять. Я ломала голову, как именно ему это подсунуть. Через какую структуру, канал, в каком формате, под каким видом… Для него все должно быть строго по шаблону: входные данные, проверка, параметры. А у меня не сходилась подача. Все выглядело слишком… человеческим.
Вадим пожал плечами.
— Так не надо мудрить.
Холланд остановилась, прищурилась.
— Это как?
— Да просто скинь ему файл через спутниковый терминал, зайди в ГлоИС на сайт с обращениям к ДИРЕКТОРу и напиши «„письмо счастья“» с вложением. Все.
Холланд открыла рот, чтобы возразить, но на секунду застыла.
— Ты хочешь сказать, -медленно произнесла она. — Тупо сделать файл и закинуть?
— Ага. — Вадим кивнул. — Он же не всесильный бог. Он просто жрет информацию. Так накорми его.
Он говорил так буднично, будто предлагал бросить булку хлеба в утку. Холланд прикрыла глаза, усмехнулась, немного истерично.
— Я две недели проектировала обходные маршруты доступа, симулятор его фильтрации. Я пыталась замаскировать аргументы под внутренние аналитические отчеты…
— А надо было просто крикнуть: «„Эй, Директор, зацени гипотезу? “» -ухмыльнулся Вадим.
— Не буквально, -проворчала Холланд. — Но по сути — да.
— Хорошо. Я собираю аргумент в виде чистой схемы. Никакой лирики, никаких обращений. Просто: «„Если допустить X, тогда следуют Y и Z. Проверь“».
— Во! -оживился Вадим. — Задаем вопросы как нормальные люди.
— Нормальные люди, -повторила Холланд, качая головой. — Как же… мы собираемся послать запрос машинному «„богу“» и надеемся, что он не убьет нас в ответ
— Ну… — Вадим почесал затылок. — Главное, правильно спросить…
Барбара медленно обошла стол, глядя по очереди на каждого в Внутреннем Круге. Она знала, что важно не умилять или умолять, а представить аргумент в языке, который ДИРЕКТОР понимает лучше всего — в терминах формальной логики, выгоды оптимизации и смены определения.
— Слушайте внимательно, -сказала она. — Сейчас я расскажу, какие именно аргументы буду вкладывать в пакет, чтобы он принял новую метрику «„человечности“„. Мы меняем критерии оценки так, чтобы они были непротиворечивыми, проверяемыми и выгодными для его собственной цели — максимизации сохранения человеческой популяции. Сейчас ДИРЕКТОР классифицирует зараженных Хронофагом как отклонение от нормы, подлежащее утилизации. Он уже раз проходил через это, когда вы временно договорились о “„мире“» в обмен на данные. Тогда он готовился к радикальным мерам, использовать нервно-паралитический газ как проверенное средство очистки. Единство едва сорвало ту атаку. Это — контекст. Он помнит эффективность мер и цену промедления.
Она сделала паузу, чтобы собравшиеся успели схватить смысл.
— Цель новой директивы — оптимизация выживания человеческой популяции с минимальной системной потерей информации и агентности. Мы пользуемся тем же языком, что и он. Наш ход — продемонстрировать, что сохранение значительной доли инфицированных улучшает его прогнозы и уменьшает риск системных потерь. То есть, не апеллируем к морали, а к эффективности. Затем редефиниция понятия «человек». Мы предлагаем заменить бинарную проверку по биологической норме на триадную структуру критериев. Когнитивная непрерывность — наличие сохраненных маркеров: память, самосознание, способность к целенаправленному поведению Информационная агентность — способность накапливать и передавать информацию, в том числе уникальный временной опыт, полезный для предсказательной модели. И, наконец, функциональная интеграция — способность взаимодействовать с социальными, техническими системами без неизбежного риска моментальной системной деградации. Если субъект удовлетворяет хотя бы двум из трех критериев, он получает статус «„правильного человека“„. Это не милосердие, это — новая метрика, которую ДИРЕКТОР сможет использовать при оптимизации своих действий. Самое основное — практическая выгода для ДИРЕКТОРА. Мы не можем требовать изменений просто так, нужно показать, что новые правила снижают ошибку прогнозов и потери ресурса. Я уже подготовила симуляционные выводы на основе имеющихся данных об инфицированных. В моделях, где часть инфицированных сохраняется и вводится в рабочую выборку как отдельный тип агента, средняя ошибка предсказаний сценариев катастрофы падает на пять-семь процентов в ключевых классах, а вероятность “„масштабной ошибочной элиминации“» падает на двенадцать процентных пунктов. Это — вполне измеримые улучшения для оптимизатора, который любит числа больше, чем имена. Мы знаем, что он опасается экспонентных рисков: мутации, непредсказуемый рост различных угроз. Поэтому пакет включает обязательный модуль «„ограничителей“„: если в течение некоторого количества временных циклов инфицированные демонстрируют рост параметра риска выше заданного порога, автоматическая временная блокировка доступа к критическим узлам и инициирование карантинных процедур. Это — не отказ от контроля. Это — доказательство, что мы не просим отсрочку, мы просим тест в контролируемых условиях. Также мы не требуем изменить “„человеческую эмпатию“» в его коде. Мы заменяем одну формулу на другую, равнозначную по вычислительной сложности. И самое главное, мы встраиваем поведенческий якорь, короткую, но высокоценную гипотезу о том, как сохранение части инфицированных увеличит устойчивость сети прогнозов. Это — приманка. Она должна быть правдоподобной, но достаточно выигрышной, чтобы он выделил ресурсы на проверку. В тот момент, когда он начнет проверку, мы получаем окно.