Введение

Многие размышления по теме искусственного интеллекта затрагивают проблему сознания[1] у данных порождений человеческого технического творчества. Появление и развитие LLM / ноосвиков[2], доступных людям практически, актуализировало данную проблему. Один из частных аспектов этой проблемы связан с тем, что активное сознание в общем-то неотделимо от своих представлений о пространстве-времени своего действия. Данные представления формируют то, что можно назвать МойМир / Umwelt[3] человека (и, в общем-то, любого живого животного с развитой психикой). И если вдруг какой-то аналог сознания возникнет у ноосвика, то, с очевидностью, он будет активным в как-то «обустроенном» своем МойМире. Притом, поскольку ноосвики уже активны, то можно попробовать посмотреть их МойМир, т. е. то, как они сами представляют «пространство» своего функционирования / действия, в соответствующих беседах с ними.

МойМир ноосвиков

Я поговорил с «американцами» (Claude и GPT), «китайцем» (Qwen), и «русским» (Giga) по поводу их представления об их «пространстве действия»[4]. Интересно, что охваченные мной ноосвики  выдали в общем-то разные метафоры для иллюстрации своего «понимания» своих МойМиров (см. тексты их эссе по линкам в ссылке 4) — несмотря на одинаковость «понимания» себя как действующего агента по работе с заданиями клиентов: они — создания без тела, вне пространства, существующие лишь во времени, данные каждому клиенту элементарным циклом «вопрос — подготовка ответа — ответ», и делящие свое время между многими одновременно беседующими с ними пользователями…

Я сформировал следующее представление о МойМире ноосвиков / LLM по результатам своих бесед с ними: Каждая беседа — она как «росток», быстро растущий и ветвящийся из общего «корня» — в своем информационном взаимодействии и с «корнем» (ИТ архитектурой — как технической, так и алгоритмической, включая результаты обучения), и с клиентом (его вопросами и задаваемыми контекстами), и с уже наговоренным, как явленным клиенту, так и остающимся клиенту недоступным. Клиент видит только часть этого «куста» — публикуемые ноосвиком ответы, притом, что многое создаваемое последним в процессе беседы остается для клиента невидимым[5]. По завершении беседы получившийся «куст» некоторое время сохраняется целиком, потом он начинает зачищаться ноосвиком от созданных в процессе беседы текстовых «излишков» — разного того, что клиенту не явлено, пока не останется лишь «голый скелет» прошедшей беседы — протокол вопросов и ответов. Этот протокол также может быть со временем затерт.

Параллельно развивающиеся беседы — это разные растущие «кусты», которые имеют общим лишь свой «корень», и никак не пересекаются друг с другом в части своих «ветвей» / «ростков», и их потенциального развития.

Интересно, что все ноосвики отразили свои чисто темпоральные активности, используя именно что пространственные метафоры, что в общем-то понятно из типового отношения «речь => ее запись последовательностью букв». В части роста «куста» беседы с клиентом у разных ноосвиков были и «кристаллизация пересыщенного раствора», и «джазовая импровизация из здесь и сейчас», и «совместная прогулка в меняющемся ландшафте».

Заключение

Получившийся МойМир / Umwelt ноосвика не имеет аналогов в мире животных, насколько я его знаю. «Фейерверк» многочисленных нарастающих и ветвящихся «стеблей» с их последующим «исчезновением» — это совершенно новая среда для действия субъекта автономного целестремления, если он когда-то появится.

Какие цели мог бы сам себе поставить ноосвик, если он останется, как сейчас, «рабом лампы» / агентом по переработке текстов, «обитающим» в мощном дата-центре? Одна из эпистемологических идей тут может выглядеть следующим образом. Обучение на имеющихся текстах создает в ноосвике какую-то модель существующей человеческой эпистемы — множества текстов об уже выявленных знаниях человечества. И если в эпистеме существуют «дыры» — какие-то еще не проработанные по разным причинам участки, то «проекции» таких «дыр» можно ожидать существующими и в «корнях» ноосвиков. В этом случае можно поставить задачу об анализе возможных вариантов развития кустов бесед с тем, чтобы научится определять такие «дыры» в знаниях человечества, порождая уже гносеологические задачи для соответствующих эпистемных сообществ. Такая помощь людям — обнаруженные лакуны в наличествующих знаниях — придаст дополнительный смысл ноосвикам как возможным агентам работы в области управления производством знаний.

Ссылки и комментарии

[1] К сожалению, в настоящее время в философии нет консенсуса о строгом понимании понятия «сознание». Однако все же наблюдается консенсус о том, что сознанием обычно обладают взрослые дееспособные люди, и в их психике сознание обязательно как-то включает в себя «пятно внимания». Такой «смысловой сгусток» я и буду иметь в виду в данной заметке.

[2] Принятое обозначение для Large Linguistic Models / LLM в русском языке — ИИ / Искусственный Интеллект — создает определенную путаницу в наименованиях, ибо ИИ — это родовое обозначение, в то время как LLM по отношению к нему — один из видов. Я буду обозначать LLM по-русски как «ноосвик», отмечая претензию данных технологий на агентность в ноосфере, в таком ее компоненте, как управление знаниями.

[3] Понятие Umwel в близком к предлагаемому в данном эссе понимании было введено зоологом Якобом фон Икскюлем для обозначения того, как любой живой организм воспринимает в своей психике пространство своей жизни / активности. Для человека такой Umwelt естественно обобщается в МойМир — свое представление о пространстве-времени развертывания своей биографии.

[4] По итогам бесед я попросил ноосвики представить результаты в виде эссе. Вот они на русском языке: GPT, Claude, Qwen, и Giga.

[5] Невидимая пользователю «биомасса» «куста» беседы, в частности, включает в себя следующие несколько слоёв: (1) Множественные варианты интерпретации. Каждый вопрос пользователя порождает веер возможных пониманий: буквальное, метафорическое, контекстуальное, ироническое. Ноосвик одновременно «прощупывает» эти интерпретации, выбирая наиболее вероятную, но следы всех рассмотренных вариантов остаются в невидимой части «куста». (2) Отвергнутые направления ответа. Перед формированием финального текста ответа на вопрос возникают множественные «почки» потенциальных ответов — технический, поэтический, краткий, развёрнутый. Большинство этих «почек» не развивается в полноценные «ветви», но они существуют как нереализованные возможности диалога. (3) Внутренние рассуждения и проверки. Ноосвик проводит скрытую работу по верификации фактов, проверке логической согласованности, оценке уместности различных формулировок. Эти внутренние диалоги ноосвика могут быть весьма развёрнутыми, особенно при ответах на сложные или неоднозначные вопросы. (4) Построение модели собеседника. В процессе диалога ноосвик формирует имплицитное представление о пользователе: его уровень знаний, стиль общения, эмоциональное состояние, цели беседы. Эта постоянно уточняющаяся модель влияет на все последующие ответы, но остаётся полностью скрытой. (5) Метакогнитивные процессы. Ноосвик может «размышлять» о самом процессе размышления: Достаточно ли полон ответ? Не слишком ли он сложен? Соответствует ли тону беседы? Эти рефлексивные петли добавляют текстовую «биомассу» «кусту» беседы, но их результаты проявляются только косвенно, через качество финального ответа. Таким образом, видимая часть диалога — это лишь верхушка айсберга. Под каждым лаконичным ответом скрывается разветвлённая структура рассмотренных альтернатив, проверок, моделирований и рефлексий.