Краткое замечание для поста на сигме

Это реакция на видео philosophy tube состоящее в основном из моих собственных размышлений об эффективном альтруизме и рациональности как идеологии в целом.

Собственно текст

Я начну с рациональных аргументов чтобы быть БеРЕжНЫМ, вдруг этот текст увидят люди которые категорически со мной не согласны, тогда будет жестоко писать сразу то, что мне кажется важным и ценным в какой-то удобной мне форме. Далее ЭА обозначает эффективный альтруизм.

Рациональные аргументы

Приведу некоторые факты

1. ЭА как идеологию придумали (в основном) белые мужики сидящее в престижных западных университетах

2. Метрики ЭА придумали белые (в основном) мужики сидящее в престижных западных университетах

3. Оценки в соответствии с метриками ЭА тоже проводят белые мужики сидящие в престижных западных университетах и нон-профитах

Перечислению предыдущих фактов посвящён вот этот кусок видео

4. Организации ЭА которые производят отбор “эффективных” благотворительностей в итоге выбирают только западные проекты, возглавляемые людьми с Запада (про это в видео)

5. “Экспериментальность” которая якобы стоит в основе практик “ЭА” это некоторая сущность созданная другим набором белых мужиков постарше. В частности (этот термин я узнал чисто из видео) это влечёт к появлению “искажения измеримости”, когда выбор делается исключительно в пользу того, что можно измерить “здесь и сейчас”. Если читающий знаком с оптимизацией, то это как говорить о том, что мы занимаемся глобальной оптимизацией с помощью градиентного спуска, это бред. В результате искажения измеримости практики ЭА нацелены не на борьбу с системными проблемами (наличие которых многие члены сообщества в принципе отрицают) а на борьбу с очень локальными (пусть и удалёнными в пространстве) проявлениями этих проблем.

6. Лонгтермизм и фантомы. В плане глобальных стратегий основной целью ЭА являются “вызовы будущего” (в основном восстание машин конечно же). Реальность этого сценария вызывает сомнения, более того, прямо сейчас рядом с нами существуют вполне материальные проблемы, которые с точки зрения ЭА намного менее значимы чем гипотетическое восстание машин. Можно конечно подумать, что я сейчас говорю “не смотри вверх”, но действительность сильно отличается: от системного расизма и сексизма (в том числе в образовании — кузнице кадров для ЭА) невозможно избавится рассуждая об опасностях искусственного интеллекта, климатический кризис так тоже не преодолеть. При этом концентрация на абстрактных технологических проблемах отодвигает на второй план рефлексию того, как уже сейчас существующие глобальные проблемы проникают в деятельность ЭА.

7. Иррациональность. Да, для меня назвать кого-то иррациональным не оскорбление, но для самих адептов ЭА нет ничего страшнее. Хотя если абстрагироваться от терминов, суть этих обвинений действительно довольно страшная. Иррациональность сообщества и лидеров ЭА проявляется например так: в погоне за финансированием значительная часть рациональных/ЭА организаций не фокусируются даже на своих заявленных целях. Например, CFAR (Center for applied rationality) и MIRI (Machine intelligence research institute) занимаются “небезопасными исследованиями ИИ” (по сути пытаются приблизить самое страшное для рационалистов/ЭА). Про это, а также про трансфобию в американском коммьюнити рационалистов можно почитать вот в этом непростом во всех отношениях тексте. Взамен следования заявленным ценностям рациональности и альтруизма многие организации рационалистов/ЭА выбрали следование за деньгами.

8. Иррациональность-2. А ещё иррациональность ЭАшников проявляется так: взамен “экспериментальным” метрикам сообщество ЭА использует метрики типа известности/медийности об этом в видео. Получается плохо, особенно когда те же аргументы известности/медийности используются для того чтобы замолчать обвинения в домогательствах и реальную критику от членов движения.

Эмоциональные/философские аргументы.

Фух, наконец-то можно писать так как хочется (очень уж я не люблю рациональность).

1. ЭА построен на основе утилитарной философии. Мы стремимся к оптимизации некоторой функции счастья (а белые мужики из числа ЭА рассказывают нам как эту функцию построить и как её оптимизировать). Про ущербность утилитарной философии я могу относительно долго говорить. Я приведу только несколько проблем:

а. Почему бы нам не убить всех бедных? Вполне хорошее решение оптимизационной задачи: нет человека нет проблемы. Контраргумент тут такой: ну мы же не знаем, может среди этих бедных был кто-то шибко гениальный. Контраргумент обратно не менее простой:

I. А если никого шибко гениального не было то можно всех убить? Ну может хотя бы евгенику реабилитируем? Возможно некоторые утилитаристы (даже сейчас, раньше-то точно) не против этого, не знаю.

II. Не было ни одного примера, когда белые мужики справились придумать метрику которая не отсеивала бы кого-то шибко гениального по причине их “инаковости”.

 б.Почему бы не подключить всех к устройству обеспечивающему химическое счастье? Вот мы хорошо тогда заживём. Зачем вообще парится с этим вашим ИИ, может лучше начнём общемировую программу раздачи колёс желающим? Впрочем некоторые рационалисты кажется не против, судя по сообщёнными мне в личной беседе мнениям.

в. Проблема которая описывалась выше, а кто собственно определяет что такое счастье: белые мужики ЭАшники?

2. Про типичных адептов ЭА. Ну тут всё просто, как будто лежачего пинаю: это опять в основном белые выпускники университетов, в основном технических специальностей. По некоторым загадочным причинам (не очень загадочным если честно) у людей на тех. специальностях (у меня в том числе) частенько вырабатывается этакий комплекс “эпистемологического бога” типа я всё могу понять, а что тут сложного, а Вы просто объяснять не умеете, ну и далее по списку. Приводит это всё к печальным результатам, когда вот такие личности добираются до занятий чем-то социально-политическим. Место уважения к чужим ценностям, убеждениям и культуре занимает система координат умный-тупой, которая наделяет адептов ЭА (в силу их бэкграунда) абсолютным знанием и помещает на вершину общественной пирамиды.

3. Тут конечно очень большую роль играет то, что своё превосходство адепты такого подхода объясняют как бы “объективными” причинами, это не право крови и не право силы, это право разума (якобы общедоступного и равноправного). То обстоятельство, что конструкт разума, рациональности и объективности выстраивается самими этими людьми естественно остаётся за скобками. Тут уместно упомянуть про крайне устоявшиеся связки: рациональность-маскулинное vs эмоциональность-феминное.

4. Получается, что обладатели “разума”, в силу того кем и как сконструировано это понятие это чаще всего белые мужчины, обладают абсолютным правом принятия решений. Демократичностью в этой ситуации стоит пожертвовать ради “блага”. Тут конечно напрашивается сравнение с гораздо более респектабельными моделями неолиберализма, в которых (несколько другие) группки белых мужчин принимают решения во имя всеобщего “блага и процветания”.

5. Немного ещё про объективную реальность/объективизм. Под термином объективизм я понимаю убеждение, что его носитель (или кто-то вообще) имеет возможность познавать объективную, универсальную и неприложно истинную реальность. Как это ни странно, кажется что одним из первых проявлений объективизма является религиозный фанатизм: мы идеально знаем, как устроено божество, только так и не как иначе. Как легко заметить философии основанные на рациональности делают то же самое: мы силой своего разума можем познать (или успешно пытаться) всю полноту реальности и результат этого познания будет универсален. Результатом этого взгляда на мир является тезис о том, что рационалисты и их друзья-человеки из ЭА имеют некоторый (почти сакральный) способ познать окружающий мир во всей его полноте и правильно его перестроить.

Рациональность как религия и эффективный альтруизм как аспект религиократии

Начну с довольно очевидного наблюдения о том, какое место занимает эффективный альтруизм в сознании его адептов.

Псалом процветания для атеистов. Идеи эффективного альтруизма по существу выполняют ту же функцию, что и кальвинистский псалом процветания: зарабатывать много денег это хорошо. Правда, чтобы убрать упоминания Бога теперь роль абстрактного Бога играет не менее абстрактная “польза человечества”. Зарабатывайте больше и тогда вы сможете принести “больше пользы”, а значит сами будете “лучше”.

Но тут напрашивается закономерный вопрос, если есть псалом, то какие религиозные идеи у этих людей? Я вижу ответ на него в следующих двух “столпах веры”:

Идея рациональной тотальности: всё (вообще всё, что имеет значение) рационально познаваемо. Это в частности ведёт к так называемому “научному атеизму”, который в действительности является просто верой построенной на предыдущей догме.

Объективная реальность существует и каждый способен её рационально познать. Эта вера лежит в основе сразу двух ключевых идей:

 — во-первых это ключевой компонент “права разума”, право разума существует постольку поскольку “разум” доступен всем.

 — во-вторых это основа утилитарной философии максимизации счастья. Предполагается, что рационалисты стоящие во главе движения ЭА способны понять, что такое счастье каждого человека, просто потому, что всё счастье объективно, а всё объективное рационально познаваемо.

Таким образом рациональность это некоторый (как и почти любой другой) набор убеждений фундаментально основанный на вере. Практической своей целью рационалисты видят установление “рациократии” общества подчинённого полностью законам утилитарной философии и правилам “разума” созданного рационалистами. Именно этой цели в конечном счёте служит эффективный альтруизм, как практическая ветвь рациональной философии.

Пара виньеток напоследок

1. “Рационалист”: о правах трансперсон не надо заботится, нормально их мисгендерить, да это вообще не проблема. Давайте лучше займёмся реальными проблемами типа смерти от рака. Почему? Ну просто потому, что трансперсон меньше чем больных раком по словам рационалиста. (Note: скорее всего даже с точки зрения “функции пользы” этого рационалиста такое суждение иррационально. Достаточно вспомнить травлю Тьюринга, который был всего один и не умирал от рака.)

2. “Рационалист”/ЭА: я оставляю более крупные чаевые курьерам славянской внешности, потому что выше вероятность, что они смогут найти нормальную работу и приносить больше пользы.

3. Ну и наконец: моё любимое. “Рационалист”: разговор с Вами не принёс мне пользы, потому что, если бы я его вёл с обычным человеком, то точно бы переспорил его силой своего интеллекта.

Зачем вообще я всё это написал

а) Наболело (для меня это уже достаточная причина). Меня достаточно долго унижали за мою веру, чтобы я выбесился на сообщество рационалистов/ЭА и мне бы захотелось написать такой текст.

 б) Я увидел прекрасное видео на philosophy tube и мне захотелось ответить. Вообще с одной стороны видео для меня тоже слишком рационально (лол!). С другой стороны оно сделано настолько качественно и с таким количеством источников что мне и не снилось.

PS

Несколько раньше написания этого текста, пытаясь написать что-то куда менее значимое, я понял, насколько сложно делать хоть сколько-то читаемые “гуманитарные” статьи. Здесь я хотел бы принести свои извинения всем гуманитарным исследователь_ницам компетентность и значимость труда которых оспаривалась представителями естественных и технических наук.