Donate
Philosophy and Humanities

Славой Жижек. ChatGPT говорит то, что наше бессознательное радикально вытесняет

Alexandr Zakh10/06/23 14:384.8K🔥
Перевод статьи Жижека, опубликованной в Berliner Zeitung, о перверсивном характере взаимоотношений человека и ChatGPT.
Перевод статьи Жижека, опубликованной в Berliner Zeitung, о перверсивном характере взаимоотношений человека и ChatGPT.

Некоторое время назад я описал случай, который произошел со мной: чернокожий друг был так воодушевлен тем, что я только что сказал, что обнял меня и воскликнул: «Теперь ты можешь называть меня "Н…р!»

Недавно один критик заявил, что те, кто соглашается со мной здесь, «сумасшедшие»: «проблема в том, что аргумент Жижека основан на его свободе использовать расистские термины. Жижек использует слово на букву Н как аргумент против политкорректности, подразумевая, что черные люди, которые не хотят, чтобы люди называли их расистскими именами, являются политкорректными. И поэтому неразумными. И конечно, возможно, человек, с которым он разговаривал, вовсе не возражал этому. Но то, произносите ли вы слово на букву «Н» как нечернокожий человек, не должно зависеть от того, найдете ли вы хоть одного чернокожего человека, который вам это «разрешит». То, как вы используете слова, должно основываться на том, как вы понимаете мир. Слово на букву "Н» использовалось для непосредственного оправдания господства одной расы над другой. Вот что меня беспокоит”

Это было выражение дружбы

Позвольте мне прояснить ситуацию: как и чатбот, мой критик игнорирует очевидный контекст моего примера. Я не использовал (и никогда не использую) слово на букву «Н" ни в одном разговоре, и чернокожий, который сказал мне: "Теперь ты можешь называть меня "Н…р!» — очевидно, не имел в виду, что я действительно должен это сделать. Это было выражение дружбы, основанное на том, что чернокожие иногда используют это слово между собой в ироничной дружеской манере.

Я вполне уверен, что если бы я действительно обратился к нему как к «Н……ру», он в лучшем случае отреагировал бы гневно, как будто я упустил очевидный момент. Его комментарий подчинялся логике «предложения, от которого следует отказаться», которую я подробно объяснял в другом месте. Например, если я говорю что-то вроде: «То, что ты для меня сейчас сделал, было так мило, что ты мог бы меня убить, и я бы не возражал!» — тогда я определенно не ожидаю, что мой собеседник скажет «окей!» и достанет нож.

Тупость чат-ботов и есть их ценность

Я полагаю, что чат-боты, по крайней мере сейчас, не могут реагировать на подобные предложения, от которых следует отказаться. (Давайте проигнорируем редкие случаи, когда в очень специфическом контексте не только слово на букву Н может быть использовано нечернокожим человеком без оскорбления чернокожего, но, что более важно, когда НЕ использование этого слова, а тонкий намек на него через смежные выражения может быть даже более оскорбительным. Между прочим, то же самое относится и к выражению «Боже, помоги мне!» Если бы в этот момент явился Бог и действительно вмешался в мир ради меня, я был бы совершенно шокирован).

Но тем не менее не слишком ли я полагаюсь на типичную академическую реакцию на чат-ботов, высмеивающую и осуждающую несовершенства и ошибки, которые допускает ChatGPT? Против этого преобладающего мнения, разделяемого Хомским и его консервативными оппонентами, Марк Мерфи в диалоге с Дуэйном Русселем отстаивает утверждение, что «искусственный интеллект не работает как замена интеллекта/чувственности как таковых».

Поэтому «глупости, промахи, ошибки и глупые логические заключения, которые совершает чатбот… его постоянные извинения, когда он делает что-то не так, как раз и являются его ценностью», позволяя нам («настоящим» людям, взаимодействующим с чатботом) сохранять ложную дистанцию по отношению к нему и заявлять, когда чатбот говорит что-то глупое: «Это не я, это ИИ».

ChatGPT — это бессознательное

Руссель и Мерфи обосновывают это утверждение сложной линией рассуждений, исходной предпосылкой которых является то, что “ChatGPT — это бессознательное”. Новые цифровые медиа экстернализируют наше бессознательное в ИИ, так что те, кто взаимодействует с ИИ, больше не являются расщепленными субъектами, то есть субъектами, подвергнувшимися символической кастрации, которая делает их бессознательное недоступным для них. Как выразился Жак-Ален Миллер, с этими новыми медиа мы вошли в универсализированный психоз, поскольку символическая кастрация теперь исключена.

Таким образом, вместо горизонтально расщепленного субъекта возникает вертикальный (даже не расщепленный) параллелизм, сопоставление субъектов и экстернализированного машинного/цифрового бессознательного: нарциссические субъекты обмениваются сообщениями через свои цифровые аватары, в плоской цифровой среде, где просто нет места для «непрозрачной монструозности соседа».

Цифровое бессознательное — это «бессознательное без ответственности»

Фрейдистское бессознательное подразумевает ответственность, о которой сигнализирует парадокс чувства сильной вины, при которой мы не знаем в чем, собственно, виноваты. Цифровое бессознательное, напротив, является «бессознательным без ответственности, и это представляет угрозу для социальных связей». Субъект экзистенциально не вовлечен в коммуникацию, поскольку она осуществляется ИИ, а не самим субъектом.

«Подобно тому, как мы создаем онлайн-аватар, чтобы взаимодействовать с другими людьми и присоединяться к онлайн-группам, не могли бы мы похожим образом использовать личности ИИ, чтобы взять на себя рискованные функции, когда мы устанем? Точно так же, как боты могут использоваться для жульничества в соревновательных онлайн-видеоиграх, или беспилотный автомобиль может управлять критически важной поездкой к месту назначения? Мы просто откидываем спинку кресла и подбадриваем наш ИИ до того момента, пока он не скажет что-то совершенно неприемлемое. Тогда мы вмешиваемся и говорим: "Это был не я! Это был мой ИИ».

Для Фрейда сон — это королевская дорога к бессознательному

Поэтому ИИ «не предлагает решения проблемы сегрегации, фундаментальной изоляции и антагонизмов, от которых мы все еще страдаем, потому что без ответственности не может быть пост-данности (post-givenness). Руссель ввел термин "пост-данность» для обозначения «области двусмысленности и лингвистической неопределенности, которая делает возможным подход к другому в области так называемой невстречи».

Эта «непрозрачная монструозность соседа» затрагивает и нас самих, т.к. наше бессознательное — это непрозрачный другой в сердцевине субъекта, беспорядочный клубок отвратительных удовольствий и непристойностей. Для Фрейда сон — это королевская дорога к бессознательному, так что неспособность принять непрозрачную монструозность субъекта также по логике означает неспособность видеть сны.

Клоунская черта père-verse-ity (обращение к отцу)

«Сегодня мы мечтаем вне себя, и поэтому такие системы, как ChatGPT и Metaverse, функционируют, предлагая нам пространство, которое мы потеряли из–за того, что старые кастрационные модели отошли на второй план». С оцифрованным бессознательным мы получаем прямую ин (тер)венцию бессознательного. Но тогда почему мы не подавлены невыносимой близостью jouissance (наслаждения), как это происходит с психотиками?

Здесь я попытаюсь возразить Мерфи и Руссель, когда они делают акцент на том, как с помощью машин с искусственным интеллектом «удовольствие может быть отложено и отринуто: как мы можем создать нечто совершенно и ужасающе непристойное и не нести за это ответственности». Гениальность заключается в том, что расщепленный субъект может быть имитирован таким образом, что мы все еще можем открыто сказать: «это не мое». Удовольствие доставляет именно отрицание самостоятельности на этом этапе. Вы показываете на ИИ и говорите: «посмотрите, какой он идиот». Клоунская черта “père-verse-ity” (обращение к отцу) большей части сетевого консерватизма заключается именно в необходимости воскресить отца. От Трампа до различных торжествующих лайфстайл-гуру самопомощи, мы видим, как они выступают в роли протезных отцовских фигур. В этих событиях мы видим попытки реакционного воскрешения протезной фаллической логики «Всего» и эру изобретений, чтобы эту логику поддержать. (…) Поскольку манифестация кастрирующей фигуры не удалась, происходит прямое изобретение бессознательного без отцовской структурирующей точки".

Перверсивное возвращение непристойного отца

Таким образом, именно перверсия (или père-version, «версия отца», как выражается Лакан), а не психотическое отбрасывание, характеризует ИИ. Бессознательное — это прежде всего не реальное «jouissance», подавленное кастрирующей отцовской фигурой, но сама символическая кастрация в ее наиболее радикальной форме, которая означает кастрацию самой отцовской фигуры, воплощения большого Другого. Кастрация означает, что отец как личность никогда не находится на уровне своей символической функции.

Перверсивное возвращение непристойного отца (Трамп в политике) — это не то же самое, что возвращение психотичного параноика. Почему это так? С чатботами и другими феноменами ИИ мы имеем дело с обратным отбрасыванием. Дело не в том (повторяя классическую формулу Лакана), что исключенная символическая функция (имя отца) возвращается в реальное (как агент параноидальной галлюцинации); напротив, реальное непрозрачной монструозности соседа, невозможности достичь непроницаемого Другого возвращается в символическое, в форме «свободного», бесперебойно функционирующего пространства цифрового обмена.

Бессознательное вытеснено

Такое обратное отбрасывание характеризует не психоз, а перверсию. То есть, когда чатбот производит непристойную глупость, я не просто могу наслаждаться ею без ответственности, потому что «это сделал ИИ, а не я». Скорее, происходит некая форма перверсивного отрицания: несмотря на то, что я прекрасно знаю, что работу выполняет машина, а не я, я могу наслаждаться ею как своей собственной.

Наиболее важной особенностью, которую следует отметить является то, что перверсия далека от того, что (до этого вытесненное) бессознательное выставляет на показ. Как это выразил Фрейд: нигде бессознательное не оказывается таким вытесненным и недоступным как в перверсии. Чатботы — это машины перверсии, и они маскируют бессознательное больше, чем что-либо другое: Именно потому, что они позволяют нам выплеснуть все наши грязные фантазии и непристойности, они являются более репрессивными, чем даже самые строгие формы символической цензуры.

Подписывайтесь на мой канал в Telegram.

оригинал

Author

Karen Karnak
Глеб Годин
zenia bakanova
+5
Comment
Share

Building solidarity beyond borders. Everybody can contribute

Syg.ma is a community-run multilingual media platform and translocal archive.
Since 2014, researchers, artists, collectives, and cultural institutions have been publishing their work here

About