Написать текст
Философия и гуманитарные науки

Живёт ли Илон Маск в симуляции? Часть 2

Неискусственный Интеллект

О том, что мир — это компьютерная симуляция, говорят многие современные ученые и философы. Основания таких взглядов были рассмотрены в первой части обсуждения. Во второй части речь пойдет о том, что из них следует. Размышляют на тему симуляции доктор философских наук, профессор философского факультета МГУ, содиректор МЦИС Дмитрий Волков (Д.В.) и младший научный сотрудник философского факультета МГУ, эксперт лаборатории геймификации Сбера Александр Ветушинский (А.В.) вместе с научным сотрудником Московского центра исследований сознания при философском факультете МГУ Антоном Кузнецовым (А.К.).

Что находится за пределами симуляция?

А.К.: Итак, мы уже затронули ряд вопросов, связанных с посылками аргумента симуляции и возражениями на него. Теперь мы можем спросить: как позволяет гипотеза симуляции объяснить мир за пределами симуляции? То есть даже если наш мир не симуляция, как-то она, может, помогает?

А.В.: Откуда берётся симуляция? Это такой ограничивающий фактор, который позволяет нам запретить себе радикальное воображение того, какими могли бы быть наши создатели. Наш мир симуляции — это симуляция какого-то другого мира. А значит, есть принципиальная связка между ними.

Дмитрий об этом тоже говорил. Физики запускают симуляцию, чтобы разобраться, например, как неживое могло потенциально стать живым. Как живое могло потенциально эволюционировать и дойти, например, до происхождения сознания. Каким образом это получилось? Как, например, примитивные формы первых сознательных существ пришли к тому, что создали такие сложные структуры, как современная культура, искусство и так далее? У биологов-эволюционистов есть некоторые принципы, исходя из которых, они описывают как эволюционируют организмы. Если забить эти принципы в компьютерную систему, то мы можем просто наблюдать. И если они построят примерно то же самое, что у нас возникло здесь: города, культуру — то тогда мы не ошиблись, наши принципы правильные.

Я думаю, что это одна из тех моделей, которые заставляют говорить, что это действительно именно симуляция. Кто-то пытался создать не нас конкретно, а создать некоторые базовые принципы и проверить, появится ли жизнь, обретёт ли эта жизнь сознание, правильно ли они понимают эти процессы и правильно ли здесь всё в итоге получится. И в этом смысле мы, как мне кажется, симуляцию запускаем примерно за тем же: чтобы понять лучше самих себя.

А.К.: Вот у меня в связи с этим возникает вопрос. Является ли тогда это рассуждение про аргумент симуляции не таким уж серьёзным, скажем так? Потому что в нем есть определённая условность. Вспомните, были механистические представления об устройстве мира, и мы переносили механистическую метафору на всё: на устройство общества, на устройство человеческого духа и мышления и так далее. А теперь аргумент симуляции. Симуляция — это лишь результат этой компьютерной метафоры. То есть это просто какой-то этап развития нашего мышления о мире.

Д.В.: Размышления о симуляции, как мне кажется, присутствовали очень давно. То есть это идея того, что наш окружающий мир — это иллюзия, неновая. А сама идея симуляции действительно появилась недавно в связи с развитием компьютерных игр и компьютерных метафор. Мы стали наблюдать, как можно иллюзию создать. Мне кажется, что сейчас основным тормозом для того, чтобы поверить ещё больше в симуляцию, является проблема сознания. То есть сейчас всех можно убедить в том, что компьютеры смогут, наверное, быть классными экспертными системами. Они смогут находить любую информацию, отвечать на множество вопросов. Но мы по-прежнему не уверены в том, что можно будет симулировать состояние сознания. Есть такой американский философ Джон Сёрл, и он своим аргументом Китайской комнаты показал, что искусственный интеллект никогда не будет по-настоящему думать, никогда не будет по-настоящему чувствовать и, соответственно, никогда не может быть сознающим существом.

Он предположил, что есть некоторый человек, которого помещают внутрь комнаты, где есть два окошка. Внутри этой комнаты огромное количество инструкций с иероглифами и инструкций на английском языке. Человек знает только английский язык. Ему китайцы с внешней стороны этой комнаты через форточку передают вопросы на китайском языке, он соединяет эти иероглифы по инструкциям, которые написаны на английском языке, и передаёт в другую форточку ответы. У людей снаружи создаётся впечатление, что человек внутри понимает вопросы и ответы, которые он получает и выдаёт. А на самом деле человек просто выполняет инструкции, которые заранее написаны, и вообще не понимает, что происходит. Некоторые противники искусственного интеллекта считают, что компьютер, что бы он ни делал, будет только имитировать деятельность и никогда не будет по-настоящему ничего понимать. Что такое компьютер? Это процессор, который управляет последовательностью нулей и единиц. Машина Тьюринга — это аппарат, который ничего, кроме нулей и единиц, не воспринимает. И поэтому для машины, что бы ни происходило, насколько бы сложное вычисление ни было, или насколько бы ни были сложные входящие и исходящие сигналы, всё равно это просто последовательность нулей и единиц.

А.К.: Да, конечно, и это отображается в обыденной речи. Как в футболе: футболист падает и симулирует травму. И за это, собственно, получает жёлтую карточку. То есть симуляция — что-то нереальное, ненастоящее. Например, когда я играю за какого-то персонажа в компьютерной игре, у него нет своего сознания, у него моё сознание. И поэтому я могу сомневаться в том, что есть сознание у симуляции.

Можно ли обладать сознанием внутри симуляции?

Мы понимаем, что сознание может быть реализовано на разных материальных носителях. А можно ли обладать сознанием внутри симуляции? Возможно ли дигитальное сознание, цифровое сознание? Например, симуляция внутри симуляции?

Д.В.: Я как раз против идеи Сёрла и считаю, что аргумент его не выдерживает критики. И что на самом деле наше сознание, скорее всего, и есть цифровое сознание. То есть что такое мозг человека? Это фактически машина, которая оперирует внутри сети у нейронов. Нейроны — это маленькие компьютеры, которые передают электрические заряды. Это примерно то же самое, что делает компьютер. И мне кажется, что эти состояния тоже наверняка дискретные.

А.К.: А можем ли мы, как персонажи симуляции, развивать какие-то суперспособности или нет?

А.В.: Это зависит от того, какая у нас симуляция. Если наша симуляция позволяет их развивать, то, конечно, мы можем их развивать. Часто геймеров ругают, что они готовы поддаваться иллюзии и, возможно, как-то терять свою жизнь. Но нет ничего подобного. Сознание геймера — это сознание, которое знает, что игры бывают разными. Игры устроены в соответствии с разными правилами. Ты понимаешь эти правила и в соответствии с этими правилами функционируешь. Чалмерс в своей статье «Матрица как метафизика» пытается сказать, что даже если наш мир — компьютерная симуляция, никакие базовые принципы, по которым существует этот мир, не исчезают. Мы не начинаем летать или уворачиваться от пуль, потому что наш мир устроен так. Возможно кто-то, грубо говоря, находясь вовне, может как-то ломать эту реальность и в этом смысле делать с ней какие-то дополнительные трансформации. Мы можем создать игры, которые играют по нашим правилам, как мы этого хотим, но мы сами играем в игру, которую не мы создавали. И поэтому мы не можем оспорить базовый набор правил, по которым мир существует.

А.К.: То есть Тором я не стану?

А.В.: Мне не хочется расстраивать. Но в конце концов создатели могут пропатчить эту реальность, создать обновление. И возможно, в новом обновлении в какой-то момент у нас появится возможность в том числе стать Тором или полететь на другие планеты, которые окажутся заселены какими-то новыми существами.

Д.В.: Я по своему опыту хочу сказать, что компьютерные игры всегда можно сломать. И всегда можно воспользоваться save-файлом кого-то ещё. На самом деле, если мир — это симуляция, то возможностей гораздо больше, чем если мир — не симуляция. Что самое страшное? То, на что нельзя вообще никак повлиять. Если наши физические константы неизменны, если миром правит та самая энтропия, которая движется и разрушает эту фундаментальную вселенную, то хакнуть её по-настоящему не получится. А вот если это симуляция, есть какие-то другие константы, другие базовые законы, то всегда существует какая-то возможность это хакнуть.

А.К.: Обычно, когда говорят о симуляции, речь идёт о заточении. Взять к примеру тот же мир «Матрицы». Но мысль-то парадоксальная: если мы в симуляции, то возможностей и свободы гораздо больше оказывается.

Д.В.: Конечно. Возникает возможность продолжения жизни. Жизнь в физической реальности, к сожалению, разрушается. И это разрушение необратимо. А жизнь в симуляции — это возможность заново пройти её несколько раз, возможность изменить что-то в поведении в следующий раз, возможность хакнуть самого себя. То есть для меня у тезиса о симуляции есть ещё психологическое измерение. То есть это более оптимистичный взгляд на мир и бесконечную жизнь в перспективе.

Что значит смерть в симуляции?

А.К.: Но если мы не хакнули симуляцию, что значит смерть симуляции, как это понимать?

А.В.: Как модель компьютерная симуляция это неплохая штука, потому что мы можем представить, что у нас есть много богов, потому что много создателей. У нас могут быть разные программы, мы можем даже сочетать католический рай и православный, какие-то другие религиозные модели. Всё это сочетается, потому что наша программа спокойно может быть перенесена в другую программу, которая существует под другим каким-то механизмом.

А.К.: Дим, а как, ты к этому относишься? Как понимать смерть в условиях симуляции?

Д.В.: Это однозначно менее драматично, чем смерть вне симуляции. Мне кажется, что мы все играли в игры, где были три и более жизни. И симуляция это такая же компьютерная игра. Смерть в реальности это что-то естественное и необратимое. Смерть в симуляции это просто какая-то ошибка, какой-то баг. И это возможность начать заново, ещё раз пройти этот уровень.

А.К.: Нужна нам симуляция, чтобы человечество выжило или нет? Нужно нам сейчас утверждать, что мы живём в симуляции, чтобы надеяться на выживание?

А.В.: Я думаю, здесь есть одновременно драматический и оптимистический взгляд. Потому что если мы живём в компьютерной симуляции, то те, кто нас создал, уже выжили. Они не погибли, потому что они достигли той точки, когда смогли создать эти симуляции, в которых, возможно, они спасли себя, а возможно, спасли всю вселенную. Если мы в симуляции, то у нас есть надежда, что у нас есть возможность продолжать.

Д.В.: Я думаю, что нам надо срочно заняться созданием симуляций. И вообще это №1 проект, которым нужно заниматься. Это проект, который не только позволит нам создать каких-то новых существ, но в некотором смысле от успеха этого проекта зависит наша бесконечная жизнь. Создав этот проект или успешно его реализовав, мы фактически докажем, что мы уже существуем, и повысим шанс, что мы уже являемся частью какой-то симуляции. В общем, это очень оптимистический проект.

Как должно изменится общество и этика в симуляции?

А.К.: Если мир — симуляция, как должны измениться поведение людей, этика или структура общества, по-вашему?

А.В.: Это даёт ощущение какой-то нескончаемости, которая может как-то воодушевлять и вдохновлять. Это даёт новый язык для того чтобы описывать свой опыт и говорить о прокачке себя, говорить о лайфхаках буквально, а не метафорически. Это действительно позволяет как-то расширить сам горизонт тех понятий, которыми мы пользуемся. Но всё-таки для меня компьютерная симуляция — это скорее метафора. Я действительно считаю, что компьютерная симуляция — это отчасти наследование идей механицизма новой европейской эпохи. Мы старались посмотреть на всё как на механизм. Это меняло и этику, это меняло и представления о том, как природа функционирует и как связан бог с этой реальностью.

Сегодня, мне кажется, компьютерная симуляция становится новым большим нарративом, который позволяет нам как-то чуть лучше понять своё место в мире, чуть лучше понять, на что мы можем рассчитывать. Особая задача философии заключена не только в том, чтобы ответить на вопрос: так живём мы в симуляции или не живём? Но и попробовать понять, насколько этот образ продуктивен, насколько он ведёт нас к потенциальным заблуждениям и явным парадоксам. Грубо говоря, нужно работать с этой метафорой. Нужно понять, насколько у этого образа есть эффективные следствия, которые могли бы укрепить наши интеллектуальные процедуры сегодня.

Д.В.: Да, я думаю, что если мы в симуляции, нужно делать три вещи. Это практически программа партии. Первое: нужно создавать симуляции, потому что, если мы успешно создадим симуляцию, мы увеличим вероятность того, что мы уже в симуляции. Второе: обоснование этики. В принципе, если за нами кто-то смотрит, то лучше, чтобы мы вели себя хорошо. И третье: мы должны заниматься сексом. То есть вот три вещи, которые, мне кажется, могут составить основу для политической программы партии симуляции.

Правила симуляции ограничивают наши возможности понимания мира

А.К.: Оказывается, в теме симуляции самое важное это даже не аргумент симуляции, а, собственно, то, что из гипотезы симуляции следует и ценность самой этой дискуссии. Почему мы не рассматриваем то, что если мы находимся в симуляции, то наши рассуждения ограничены ее правилами?

Д.В.: Да, я согласен. То, что мы что-то не можем решить, возможно, является следствием того, что мир запрограммирован. То есть по правилам игры нет у человека возможности понять, каким образом мозг порождает субъективные состояния сознания. Возможно, это, то, что у философов называется explanatory gap. Бездна для объяснений возникает как раз из–за того, что есть какие-то естественные ограничения. Возможно, ограничение скорости света, связано именно с тем, что просто не успевают прорисовывать для нас дальнейшую вселенную быстрее. То есть у них как в рендеринге: вот смотрите Google Earth, приближаете, приближаете, приближаете, приближаете, а потом оказывается, что вы видите пиксели. Возможно, таким же образом построена наша игровая вселенная. То есть компьютер, всё-таки обладая конечной производительностью, не может воспроизводить мир в бесконечном количестве деталей.

А.К.: Другой вопрос. Выходит, все эти штуки с перерождением, переселением души и прочее доказывают, что может быть несколько жизней у души. Следовательно, наш мир симуляция?

А.В.: Мне не очень понятно это «следовательно». Мы действительно уходим в эту сторону. Здесь есть, наверное, потенциальная вопросительность. Как чуть ранее Дмитрий говорил, что очень часто разговор о компьютерной симуляции заканчивается разговором о боге и какой-то новой теологии.

Когда мы говорим не про богов, а про души, мы часто можем упасть на такую современную форму различного мракобесия (как раз духовность new age, борьба с телесностью, с материальностью). Честно говоря, мне кажется, мало того, что сама технологическая сингулярность это отчасти какой-то квазирелигиозный миф, в который может верить радикальный сциентист или трансгуманист, но помимо этого есть ещё другие формы такой своего рода мифологии.

Потому что когда современные учёные говорят, например что на самом деле наша реальность является совокупностью нулей и единиц или наша реальность на самом деле цифровая, мне кажется, они забывают одну забавную, но важную деталь: код никогда не работает сам по себе, у него должна быть какая-то машина, некая материальность. Нули и единицы — это отсутствие и присутствие электрического импульса. А что является той самой изнанкой?

Возможно, вопрос о том, что там за компьютерная симуляция — это вопрос о технологической реальности, которая делает возможным наш мир. Не о богах, не о душах, а о железе. Вот то железо, на котором работает этот код, который делает возможным наш мир. Мне действительно кажется, что за этим образом компьютерной вселенной стоит какая-то иная материальность, которая делает возможной эту компьютерную вселенную.

А.К.: Про сознание можно у Димы почитать книгу «Свобода воли. Иллюзия или возможность», а у Саши есть книга «Во имя материи», где он рассуждает на тему того, как новый вид материальности работает.

Последний вопрос. По сути, сознание человека и есть Китайская комната. Мы рождаемся чистым листом, и уже культура даёт нам инструкции, как взаимодействовать с поступающими сигналами. Согласен ли Дмитрий с этим?

Д.В.: Да, мне очень нравится высказывание. Китайская комната Сёрлу помогала показать, что китайцы за пределами этой комнаты могут распознать, что происходит. Человек внутри не понимает, что, что происходит. Мы, находящиеся внутри, тоже не можем понять, как работает наше мышление. Мы тоже выполняем какие-то инструкции, как Сёрл, находящийся в замкнутой комнате. Нам кажется, что мы разбираем эти символы и их значение. На самом деле это просто иллюзия понимания собственного мышления, прозрачности мышления. Понимания того, как работает наша память или как мы используем язык, или какое значение у слова «симуляция» — это всё тоже примерно такая же иллюзия, как и иллюзия людей за пределами комнаты.

А.К.: Сейчас я бы хотел сделать блок финальных реплик от вас, где вы, может быть, какие-то неожиданные мысли высказать хотели бы. Саш, давай начнём с тебя, а потом Дима.

А.В.: Мне кажется, самой неожиданной мыслью, которую я высказал, была мысль про новую материальность. Я просто подведу резюме. Мне кажется, действительно очень важно, хорошо и полезно, что философы не остались в стороне по отношению к этим дискуссиям. Потому что есть много около философских дискуссий, которые ведутся непрофессиональными философами, и там что только ни происходит. Компьютерная симуляция — тоже потенциально очень опасный сюжет. Потому что если не добавить туда необходимого уровня рациональности, въедливости и серьёзности, то по большому счёту он превратится в новую эзотерику и новый мистицизм. Философы помогают ту метафору, которая действительно становится всё более и более распространённой, поставить на продуктивные рельсы. И в этом смысле позволяют нам скорее понять себя, своё место в мире, наш мир, а не запутаться окончательно в нём.

Д.В.: Я думаю, что я согласен с Александром. Для меня вопрос о симуляции это интересное место, где художники, продюсеры, фантасты и философы вместе создают что-то новое. И это очень здорово. Потому что сейчас наука очень сильно отделилась, каждая область изолирована. Искусство занимается чем-то одним, учёные занимаются чем-то другим, философы — третьим, политики обсуждают что-то четвёртое. Вопрос о симуляции — это вопрос, который объединил очень разных, очень талантливых людей. А во-вторых, это действительно подлинно философская дискуссия, потому что от гипотетической ситуации, от представимости чего-то мы вдруг можем обнаружить что-то про реальность. Знаете, многие люди говорят об успехе, все верят в науку, все верят в технологии, но мало людей говорят: «философы крутые, они знают что-то про реальность». И этот разговор о симуляции — это доказательство того, что философия абсолютно актуальна. То есть сегодня философ, который представил, как может быть, неожиданно открывает что-то или помогает нам прояснить, что на самом деле есть. И это очень ценная ситуация. Я очень рад сегодняшней беседе и тем, что всех это интересует.

Подпишитесь на наш канал в Telegram, чтобы читать лучшие материалы платформы и быть в курсе всего, что происходит на сигме.

Автор