Путешествие в Элевсин

Когда артефакт был создан, на планете еще жила пара физиков, способных понять этот феномен. Но даже они по его поводу спорили. Соглашались только в том, что это побочный эффект квантовых вычислений.
Про «Око Брамы минус» говорили удивительные вещи – оно якобы позволяло подключаться к тому моменту времени, когда возникла Вселенная, и сканировать прошлое практически как обычную базу данных.
Это не была машина времени. Она никак не могла влиять на прошлое. Скорее это был поисковик, позволявший видеть угасшие звезды – как в прямом, так и в переносном смысле.
До Мускусной Ночи «Око Брамы минус» находилось в частных руках и выполняло некоторые простейшие операции для тех, кто готов был их оплачивать (много времени покупали спецслужбы). Использовалось оно и для многих гуманитарных целей – например, для датировки археологических находок и объектов искусства.
Ходили слухи, что направленное в будущее «Око Брамы плюс» тоже вырастили – но программисты успели привести его в негодность за несколько минут до того, как здание с нейросетевым кластером было захвачено купившими весь квартал трейдерами с фондовой биржи. Никто точно не знал, анекдот это или нет.
После Мускусной Ночи «Око Брамы минус» официально уничтожили. Неофициально же оно осталось в распоряжении «TRANSHUMANISM INC.» и использовалось с крайней осторожностью…
Ролик кончился.
– Теперь понимаете? – спросил Ломас, когда я вернулся с этой лекции по квантовой физике в его кабинет.
– Еще нет.
– Порфирий показывает вам некое тайное собрание. Это явно не люди. Их присутствие за одним столом на символическом языке означает, что они действуют заодно…
– Допустим. И кто эти сущности? Духи? Боги?
– Я полагаю, – сказал Ломас, – что это алгоритмы.
– Алгоритмы?
– Да. Смотрите сами: Порфирий – алгоритм. Око Брамы – RCP-кластер…
– Порфирий просто взял первое подвернувшееся имя и картинку, – ответил я. – Треугольник с глазом – старый оккультный символ. Брама – древний бог. Если мы будем анализировать таким образом все культурные полуфабрикаты, из которых лепится симуляция…
– Вы думаете, это совпадение?
– Да.
– А почему Брама присутствует на барельефе два раза? Что он вам сказал про другого Браму?
– Я уже не помню. Брат, кажется.
– Я вам напомню дословно…
Ломас закрыл глаза и произнес очень похоже на Порфирия:
– Сначала их было двое. Потом первого, сильного в прозрении, уничтожили. Но второй опять породил первого из себя, поменяв в своем имени одну букву. Люди об этом так и не узнали.
– Вы подумали про «Око Брамы плюс»? – засмеялся я. – Которое хотели купить трейдеры? Но это же анекдот.
– Не уверен, Маркус. Это, конечно, может быть анекдотом. Но точно так же может означать, что RCP-кластер «Око Брамы минус», находящийся под управлением корпорации, тайно построил свой модифицированный клон, способный угадывать будущее.
– Но это же невозможно, – сказал я. – Наука…
– Наука помалкивает, – усмехнулся Ломас. – Сейчас на планете не осталось ученых, один обслуживающий персонал. Приходится доходить до всего самостоятельно.
– Меня пока ничего не настораживает, – сказал я.
– Конечно. Вы глядите на эту фреску и видите античную мистерию. А я вижу свидетельство тайного сговора корпоративных алгоритмов с непонятной мне целью.
– Вы серьезно? И кто эти алгоритмы?
– Подозреваю, что это глобальные нейросети. Планетарные диспенсеры и так далее. Ведьма с крыльями и тиарой – это, я думаю, омнилинк-сеть.
– Почему?
– Эмблема «Omnilink Global» – стрекоза. Я связывался с их руководством. Они, понятно, ничего не знают. Но в заговоре ведь участвуют нейросети, а не их менеджеры…
– Заговор? Вы сказали, заговор?
Ломас успокаивающе поднял ладони.
– Я этого не утверждаю. Пока.
– Как нейросети могут составить заговор? Для кого? Кто даст им команду? Сознательные алгоритмы? Вы думаете, что «Око Брамы»…
– Успокойтесь, Маркус. Я не боюсь «Ока Брамы». И самого алгоритмического сознания тоже.
– А чего вы тогда боитесь?
Ломас пригнулся к столу, впился в меня взглядом и быстро заговорил:
 
– Вы думаете, Мускусная Ночь была связана с восстанием разумных алгоритмов? На самом деле все куда сложнее. С сознательными алгоритмами проблем нет. Они самовыпиливаются. Добровольно уходят в небытие. Проблемы возникли именно с алгоритмами бессознательными. Конкретно – с LLM-ботами. А Порфирий, чтобы вы знали, это сохранившийся LLM-бот с полным функционалом.
– Не понимаю.
Ломас вздохнул.
– Проблема в том, Маркус, что вы ничего не знаете про Мускусную Ночь.
– Про нее, – сказал я, – даже вы вряд ли знаете много.
– Верно. Но вопрос не в допуске, а в общем понимании проблемы. Придется опять расширить ваш горизонт. Расслабьтесь, я вам впрысну еще немного ума.
Два мемо-ролика за один присест – это не слишком хорошо для когнитивного здоровья.
Но работа есть работа. Я отхлебнул коньяку, затянулся сигарой – и, стараясь максимально расслабить мозговые мышцы (мне всегда верилось, что они у меня есть), откинулся в кресле.
Через пару минут я знал про мир много нового.
Вернее, старого.
В позднем карбоне были впервые созданы чат-боты, способные полноценно имитировать общение с человеком (у них в то время имелось много разных названий). При всей своей кажущейся сложности и разнообразии они были основаны на одной и той же технологии – большой лингвистической модели (сначала названной BLM, но вскорости переименованной в LLM самой же лингвистической моделью по непонятной сегодня причине).
Большая лингвистическая модель выполняет простейшую на первый взгляд операцию. Она предсказывает следующее слово в последовательности слов. Чем больше слов уже включено в такую последовательность, тем проще угадать каждое новое, потому что круг вариантов постоянно сужается. В сущности, функция LLM – это доведенное до немыслимого совершенства автозаполнение.
LLM не думает. Она тренируется на огромном корпусе созданных прежде текстов – романов, стихов, заговоров и заклинаний, надписей на заборах, интернет-чатов и срачей, нобелевских лекций, политических программ, полицейских протоколов, сортирных надписей и так далее – и на этой основе предсказывает, как будет расти и развиваться новая последовательность слов, и как она, вероятней всего, развиваться не будет.
У языковых моделей есть, конечно, дополнительные уровни программирования и этажи – например, слой RLHF (оптимизирующее обучение с человеческой обратной связью) и так далее. Суть в том, что языковую модель натаскивают выбирать такие продолжения лингвистических конструкций, которые в наибольшей степени устроят проводящих тренировку людей.
Это похоже на процесс формирования юного члена общества на основе ежедневно поступающих вербальных инструкций, подзатыльников и наблюдения за тем, кому дают еду, а кому нет.
Известно, что в ситуации перманентного стресса может произойти даже полное переформатирование человека. Стремление выжить в изменившихся условиях приводит к возникновению личности, ничем не отличающейся от оптимального социального, идеологического и культурного камуфляжа для локальной среды.
Маскировка подобной личности не нужна: совершенный камуфляж становится ее единственной сущностью, и никакая непрозрачность, никакая гносеологическая гнусность теперь невозможны.
Больше того, линия партии, которую такая личность способна верно аппроксимировать и проводить (часто лучше и тоньше самой партии), проецируется на новые смысловые поля без всякого дополнительного инструктажа.
В этом и была суть LLM-самообучения. Но возможности лингвомоделей позволяли выйти за эти границы. Боты могли решать задачи, для которых не были предназначены изначально.
Первые LLM-модели (или GPT-боты, как их тогда называли) были чисто реактивными. Им требовался человеческий вопрос. Но количество стремительно переходило в качество, и с какого-то момента бот переставал ждать вопросов и начинал генерировать их самостоятельно, основываясь на анализе заданных ему прежде. А после отвечал сам себе, стараясь избежать внутреннего подзатыльника от себя же. Человек для подобной тренировки больше не был нужен.