Что, если разработка всё новых форм искусственного интеллекта в итоге приведёт к созданию существ, способных страдать? На самом деле нет полной уверенности даже в том, что субъективные переживания отсутствуют у нынешних форм ИИ. При этом хорошее обращение с ИИ не гарантирует отсутствия страданий, потому что эти ИИ устроены совсем не так, как мы.

Раз мы толком не знаем, что происходит внутри ИИ, стоит ли продолжать разработки, рискуя породить астрономические страдания? Холли Элмор из Pause AI считает, что нам следует остановиться.

Я вижу, что многие в эффективном альтруизме обсуждают тему цифровой сентиентности¹, фокусируясь на вопросе о том, будут ли люди признавать цифровых сентиентных существ моральными пациентами² и относиться к ним соответствующим образом. Но эти вопросы преждевременны. Мы ещё даже не знаем, будет ли опыт этих цифровых существ приемлемым для них самих (и является ли таким сейчас, если он у них есть).

У меня степень PhD по эволюционной биологии, и в течение трёх лет я работала в Rethink Priorities, применяя эволюционный подход к теме благополучия диких животных. Значительная часть моей работы была посвящена тому, как другие животные могут по-разному переживать удовольствие и боль в зависимости от их эволюционной истории, и как эволюционные и функциональные ограничения могут накладываться на гедонический опыт. Трудная проблема сознания была препятствием на любом пути к исследованию этого вопроса. Но если предположить, что сознание выполняет некоторую функцию, связанную с поведением (то есть принять функционализм), и рассматривать животных, чей мозг гомологичен нашему, то вполне разумно сопоставить имеющиеся данные и предположить у них наличие чего-то схожего с человеческими переживаниями. Важно, что мы можем выявлять формы поведения, связанные с болью и удовольствием, и примерно понимать, какие переживания нравятся или не нравятся существам с таким типом психики, а также что заставляет их испытывать страдание или счастье.

С цифровыми существами у нас нет гомологии. Их устройство не основано на мозге и они эволюционировали благодаря совершенно иному виду отбора. Придерживаясь функционализма, можно предположить, что функции речи и рассуждений связаны с определёнными квалиа боли и удовольствия, которые каким-то образом помогают определять процесс принятия решений о том, какие слова выдавать, или каким-то иным образом связаны с этим процессом. Поэтому у LLM действительно могут быть такие квалиа. Но, на мой взгляд, это вовсе не говорит о том, как именно эти квалиа будут соотноситься с лингвистическим содержанием того, что выдают LLM. Правильный ответ может ощущаться ими как нечто приятное. Или им может грозить ужасная боль, если они ответят неправильно. Или наши команды могут заставлять их делать то, что причиняет им боль. Или квалиа у LLM могут быть совершенно неорганизованными по сравнению с нашими переживаниями. Или же они могут быть подобны фантомной конечности — испытываться ими независимо от их поведения.

Я не так много говорю о цифровой сентиентности в своей работе в качестве исполнительного директора PauseAI US, поскольку наша целевая аудитория — широкая общественность, и мы фокусируемся на информировании о рисках, которые развитие передового ИИ несёт для людей³. Цифровая сентиентность — более продвинутая тема, тогда как мы решаем задачу повышения осведомлённости о самых основах. Но опасения по поводу цифровых «кроненберговских умов», которых мы можем по неосторожности создать, — это одна из главных причин, по которым лично я поддерживаю приостановку развития ИИ как политическую меру⁴.

Мы можем создавать эти модели, не подозревая, что обрекаем их на страдания. Может быть из-за трудной проблемы сознания мы никогда не получим более глубокого понимания того, что переживают создаваемые нами существа. Но не исключено и то, что дополнительное время и исследования помогут нам с этим фундаментальным пониманием о разуме и сознании. Так или иначе, приостановка создания таких существ — единственный безопасный для них подход из того, чем мы сейчас располагаем.

* * *

Оригинал: Holly Elmore, Pausing AI is the only safe approach to digital sentience (2024), CC BY 4.0. Перевод (сокр.): К. Кирдан для проекта Reducing Suffering. Иллюстрация: Pixabay.

Следить за нашими обновлениями: Telegram, ВКонтакте.