Джим Бюлер написал серию статей об аксиологической футурологии, исследующей то, какими будут ценности у будущих поколений людей (или других существ, которые могут прийти им на смену). Мы приводим первую из них, где он объясняет, зачем нам нужна эта область исследований, ответы на какие вопросы мы можем попытаться в ней найти, и какие работы по этой теме уже есть. Список других статей автора приведен в конце.

Почему это стоит исследовать

Человечество может разработать искусственный общий интеллект (AGI)¹, колонизировать космос и создать в будущем астрономические количества всяких вещей (Bostrom 2003; MacAskill 2022; Althaus & Gloor 2016). Но что это за вещи? Насколько они положительно/отрицательно ценны? И каковы они в сравнении с теми вещами, которые в итоге создали бы “жадные” инопланетяне, если бы колонизировали наш уголок вселенной?² Что это значит для нашей работы, направленной на формирование долгосрочного будущего?

Хотя ответы зависят от множества факторов, одним из ключевых, скорее всего, будут ценности наших потомков.

Когда мы размышляем о том, стоит ли изучать эту тему, заманчивой может показаться такая позиция:

Маловероятно, что у наших потомков будут ценности, которые одновременно существенно отличаются от наших и предсказуемы. Либо у них будут ценности, схожие с нашими, либо ценности, которые мы не можем предсказать. Следовательно, попытки предсказать, каковы будут их ценности — это пустая трата времени и ресурсов.

Хотя я понимаю, почему это может казаться убедительным, я считаю, что это крайне ошибочно.

Во-первых, предсказание ценностей наших потомков — то, что Джон Дэнахер (2021) называет «аксиологической футурологией», — в мирах, где эти ценности существенно отличаются от наших, не выглядит совсем уж неразрешимой задачей. В этой области исследований уже достигнуты значительные успехи, и, похоже, есть много возможностей для дальнейшего прогресса (см. следующий раздел и Приложение).

Во-вторых, сценарий, при котором ценности наших потомков не будут существенно отличаться от наших, представляется мне довольно маловероятным³. Тут следует учитывать такие вещи, как иллюзия конца истории. Похоже, что по ходу истории ценности заметно развиваются, и нет причин предполагать, что мы настолько особенные, что должны считать себя исключением из этого правила.

Помимо того, что работа в направлении аксиологической футурологии возможна, я также считаю эту работу необычайно важной, учитывая, что она поможет ответить на упомянутые ранее ключевые вопросы. Поэтому значимость этой работы также выглядит неоправданно недооцененной в нынешнее время.

Как это исследовать

Вот примеры общих вопросов, которые могли бы стать частью исследовательской повестки по этой теме:

• Какие факторы лучше всего предсказывают будущие человеческие ценности? Чему нас могут научить обычные методы прогнозирования?
• Как менялись ценности людей на протяжении истории? Почему? Чему это может нас научить? (см. например, MacAskill 2022, глава 3; Harris 2019; Hopster 2022)
• Есть ли причины полагать, что в будущем мы будем наблюдать меньше изменений? Почему? Из-за фиксации ценностей? Какой-то формы моральной конвергенции в ближайшем будущем?
• Есть ли причины ожидать большего числа изменений? Может ли это быть связано с разработкой AGI, полной эмуляцией мозга, колонизацией космоса и/или ускоренным дрейфом ценностей? Что, если случится глобальная катастрофа?
• Более широкий вопрос: какое влияние на ценности окажет будущий технический прогресс? (См. пример прогноза у Hanson 2016.)
• Стоит ли ожидать, что в пользу некоторых ценностей будет идти отбор? (см. например, Christiano 2013; Bostrom 2009, Tomasik 2017)
• Может ли произойти период «долгого размышления»? Если да, можем ли мы понять, к чему это может привести?
• Есть ли шанс реализации чего-то вроде когерентной экстраполированной воли, и если да, то к чему это реалистично может привести?
• Есть ли сценарии будущего с определенными ценностями у человечества, которые маловероятны, но на которые стоит делать ставку?
• Может ли само наше исследование этой темы повлиять на ценности наших потомков, которые нам следует ожидать, — например, через эффект саморазрушающегося или самосбывающегося пророчества? (Danaher 2021, раздел 2)
• Что ценят или будут ценить инопланетяне и что это говорит нам о нас самих?
• А что насчёт ценностей потенциальной цивилизации, которая может появиться на Земле после вымирания человечества?

Джон Дэнахер (2021) приводит примеры методологий, которые могут быть использованы для ответа на эти вопросы.

Также в Приложении приведены примеры и другие релевантные работы, включая следующие посты этой серии.

Благодарности

Спасибо Андерсу Сандбергу за наводку на работу Джона Дэнахера (2021) и глубокое обсуждение этой темы. Спасибо Элиасу Шмиду за прочие рекомендации. Спасибо также М. Виктории Калабресе за ее предложения по стилистике. Моя работа над этой цепочкой статей до сих пор финансировалась Existential Risk Alliance.

Все допущения/утверждения/упущения являются моими.

Приложение: Релевантные работы

(Этот список не является исчерпывающим⁴. Сортировка более-менее в порядке убывания важности.)

Делают прогнозы или поднимают соответствующие обсуждения — о том, что могут ценить наши потомки:

• John Danaher (2021) Axiological Futurism: The Systematic Study of the Future of Values
• Robin Hanson (1998) Burning the Cosmic Commons: Evolutionary Strategies for Interstellar Colonization
• Nick Bostrom (2004) The Future of Human Evolution
• Brian Tomasik (2017) The Future of Darwinism
• Allan Dafoe (2019) Value Erosion
• Robin Hanson (2022) Will Design Escape Selection?
• Robin Hanson (2021) On Evolved Values
• Robin Hanson (2009) This is the Dream Time
• interstice (2022) Alignment Might Never Be Solved, By Humans or AI
• Wei Dai (2014) Six Plausible Meta-Ethical Alternatives
• «We can expect future agents to have other-regarding preferences that we would, after reflection, find somewhat positive» и «Appendix 2» в Brauner & Grosse-Holz (2018)
• Robin Hanson (2016) The Age of Em
• Paul Christiano (2013) Why might the future be good?
• Jacy Reese Anthis (2018) The End of Animal Farming
• Robin Hanson (2018) Longviews are coming
• Yuval Noah Harari (2016) Homo Deus
• «The “Consciousness vs. Pure Replicators” Worldview» в Emilsson (2017)
• Следующие посты этой цепочки статей.
• Anders Sandberg (планируется) Grand Futures

О возможности, вероятности и последствиях фиксации ценностей / дрейфа ценностей:

• Lukas Finnveden et al. (2022) AGI and Lock-In; и работы, на которые они ссылаются в разделе «How likely is this?»

О стимулах к колонизации космоса:

• Carl Shulman (2018) Financial returns of interstellar colonization for the sedentary
• Anders Sandberg (2018) Space races: settling the universe fast

* * *

Другие статьи Джима Бюлера по аксиологической футурологии:

• Для предсказания будущего неважно, какова моральная истина
• Тезис об отборе “жадных” ценностей. Какие ценности будут у космических цивилизаций?
• Почему мы можем ожидать, что наши потомки не будут сострадательными
• Какие ценности будут править будущим? Обзор, выводы и направления для будущих исследований

* * *

Оригинал: Jim Buhler, Predicting what future people value: A terse introduction to Axiological Futurism (2023). Перевод: К. Кирдан для проекта Reducing Suffering.

Следить за нашими обновлениями: Telegram, ВКонтакте.