Иной разум. Как «думает» искусственный интеллект?

 
Нейробиология понимания
 
Мозг – это машина для поспешных выводов.
 
Дэниел Канеман
Когнитивная психология показала нам, что понимание – это не какой-то мистический акт сознания, а работа с моделями: мы строим их (Джонсон-Лэрд), проверяем на согласованность с реальностью (Норман), решаем задачи (Саймон).
  
А субъективная понятность нашего «понимания» обусловлена проекциями – «телесностью» наших метафор (Лакофф и Джонсон) и в принципе нашим способом существовать в физическом мире (Пинкер).
Но все эти объяснения остаются на уровне описания процессов – как если бы мы знали, что делает человек, но не понимали, как ему это удаётся. В чём хитрость, как возникают эти модели и где эти метафоры «живут»?
Короче говоря, вопрос в том, каким образом тело и мозг производят то, что мы называем пониманием? И здесь на сцену выходят нейронауки.
Предиктивное кодирование
То, что когнитивные психологи описывали как «ментальные модели» (Джонсон-Лэрд), нейробиология в лице Карла Фристона определяет как процесс минимизации ошибки предсказания.
Карл Фристон показывает, что наш мозг минимизирует трату энергии посредствам предсказаний («принцип свободной энергии»). Он не столько исследует мир, сколько предсказывает, что будет происходить в каждую следующую секунду.
Для этих целей мозг жонглирует множеством моделей разного уровня сложности – от сенсорных до поведенческих. Если угадывает – отлично («всё понятно»), если нет – он пересматривает свой прогноз: пытается понять, что пошло не так, и подобрать другую, более подходящую модель [28].
Понимание, таким образом, – это активный поиск снижения неопределённости, целый динамический цикл: иерархическое предсказание, активное уточнение, построение модели мира.
Чувство «я понял» возникает тогда, когда все уровни этой иерархии совпадают и система достигает устойчивости.
Соматические маркеры
То, что когнитивные психологи исследовали как телесные метафоры и схемы действий (Лакофф, Джонсон, Пинкер), получило подтверждение в работах выдающегося нейробиолога Антонио Дамасио.
В своих исследованиях он изучал пациентов, которые имели повреждения в тех зонах мозга, которые отвечают за связь сознания с телесными функциями (префронтальная кора и системы, интегрирующие соматические сигналы). Оказалось, что такой человек сохраняет интеллект, память, логику, но его способность понимать ситуацию была катастрофически нарушена.
То есть такие пациенты могли рассуждать «в принципе», демонстрировать другие свойства памяти и сознания, но не могли принять ни одного осмысленного решения. Дамасио даже использует термин «соматические маркеры» мысли – без, по большей части неосознанных, телесных сигналов мы теряем способность соотнести свою мысль с реальностью, прожить её [29].
Совместная интенциональность
То, что философы называли конфликтом интерпретаций (Рикёр) и диалогичностью (Бахтин), а психологи наблюдали в языке, получает эволюционное подтверждение со стороны блестящего нейробиолога Майкла Томаселло. Его концепция «совместной интенциональности» показывает, что понимать – значит уметь разделять внимание и цели с другими [30].
Вообще слово «интенциональность» появилось в научном обиходе благодаря идее философа Франца Брентано, который считал её главной характеристикой сознания. Идея в том, что сознание не бывает пусто, оно всегда направлено (интенция) на какой-то предмет (пусть даже это наша собственная мысль) [31].
Томаселло развивает эту идею дальше и показывает, что интенциональность конкретного человеческого сознания определяется совместной деятельностью людей. Мы постоянно синхронизируем с ними свои интенции – например, вместе смотрим на один объект, когда его обсуждаем, можем иметь общую цель, строить общие планы.
И именно здесь, говорит Томаселло, рождается понимание как общее пространство смыслов, доступное сразу нескольким умам. На множестве виртуозных экспериментов он убедительно доказывает, что наше понимание обусловлено не мощностью наших абстракций, а способностью совместного действия – разделять внимание, цели и способы действия с другими, что возникает общее пространство смысла.
Томаселло показывает, что и наш язык – это не «модуль» для кодирования, а «инструмент кооперативной коммуникации». Языковой знак – это средство управления общим полем: установления общего фокуса, уточнения роли, фиксации долей ответственности. И смысл слов формируется не «изнутри слова», а в ходе координации намерений – мы постоянно помечаем, на что смотрим, чего хотим достичь, каких шагов ждём друг от друга.
Глобальное рабочее пространство
И наконец, то, что когнитивисты описывали как «реструктурирование» и «согласование модели со средой» (Саймон, Норман), в нейронауке оказывается функцией глобальной нейронной сети, которая интегрирует локальные процессы в единое «глобальное рабочее пространство».
Профессор Коллеж де Франс, нейробиолог Станислас Деан предлагает смотреть на мозг как на оркестр. Каждая его зона играет свою партию: зрительная кора занимается буквами, слуховая – звуками, память хранит ассоциации, лобные доли отвечают за план.
Пока все эти партии звучат отдельно, музыка не складывается – есть только фрагменты. Но стоит им синхронизироваться, как возникает общий рисунок, в котором буквы становятся словами, слова – предложениями, а предложения складываются в связный текст.
Иными словами, чтобы информация стала «понятой» и доступной для использования, она должна выйти за пределы локальных специализированных областей мозга и быть интегрирована в глобальную сеть – «рабочее пространство» [32].
Сейчас вы видите перед собой буквы – вы делаете это вашей зрительной корой. Но пока эта обработка остаётся локальной, вы их не сможете распознать. Понимание начинается там, где эти данные «распространяются» на языковые области, память, контекстные зоны: буквы становятся словами, слова встают в предложение, а предложение – в смысловую картину. Это и есть переход локального в глобальное.
 
Итого
 
Итак, мы сделали первый подход к пониманию «понимания». Да, оно кажется нам таким понятным, таким естественным, но как только мы всматриваемся в него, как тут же вся эта ясность куда-то испаряется.
• В философии оно оказывалось то языковой игрой (Витгенштейн), то картой без территории (Коржибский), то бесконечной цепочкой интерпретаций (Рикёр, Деррида) и «полифонией» (Бахтин).
• В когнитивной психологии понимание открывается нам как метафора телесного опыта (Лакофф, Джонсон) и проекция структуры нашего существования (Пинкер), а ещё ментальной моделью (Джонсон-Лэрд) и способом реструктурировать задачу (Норман, Саймон).
• В нейронауке появляются новые объяснения: минимизация ошибок предсказания (Фристон), следствие телесных сигналов (Дамасио), продукт совместного внимания (Томаселло), интеграция локальных процессов в глобальное пространство (Деан).
Складывается парадоксальная ситуация. Понимание вроде бы везде и во всём – в языке, культуре, теле, мозге. Но в то же самое время оно словно бы и нигде, поскольку мы не видим его непосредственно. Мы чувствуем его как нечто близкое и понятное, но при попытке его ухватить оно предательским образом просачивается сквозь пальцы.
  
В словаре оно выглядит как тавтология, в науке – как бесконечный список определений, в опыте – как смутное «ага!» без объяснения. Так насколько в таком случае мы действительно понимаем, что такое наше «понимание»? И чего стоит наша идентичность, выстроенная на столь шатком фундаменте?