Публікація є перекладом прологу та частинки першої глави книги Ізабель Міллар «Психоаналіз штучного інтелекту». Ізабель Міллар — філософиня і представниця теоретиків психоаналізу з Лондона. Перекладачка: Альона Бартош. Більше матеріалів про психоаналіз тут. Оригінал: Millar, Isabel. (2021). The Psychoanalysis of Artificial Intelligence. 10.1007/978-3-030-67981-1. 

Пролог: Василіск Роко

У 2010 році на форумі LessWrong користувач на ім’я Роко запропонував мисленнєвий експеримент. Він висунув гіпотезу, що у ймовірному майбутньому всемогутній надрозумний ШІ міг би ретроспективно карати кожного, хто в теперішньому часі не робив усе можливе для сприяння створенню такого надрозуму. Просто розважаючись ідеєю ШІ та не сприяючи його розвитку, ви наражаєте себе на небезпеку — істота може зробити висновок, що ви не діяли відповідно до обов’язку сприяти її появі (моралістичний тон експерименту підкреслюється тим, що ШІ є парадоксально доброзичливим, його завданням є захист людства, і тому ті, хто не сприяє його існуванню, відтак бажають зла своїм ближнім). Мстива авраамічна природа Василіска означає, що в майбутньому він може створити вашу симуляцію, щоб вічно мучити вас за те, що ви піддавали його екзистенційному ризику. Очевидні й старозавітні риси Василіска: він добрий, але тільки якщо ви на це заслуговуєте.

Як би абсурдно це не звучало, пост викликав обурення з боку засновника сайту та директора Дослідницького інституту машинного інтелекту (MIRI) в Каліфорнії, Елієзера Юдковського. Юдковський вважав, що Роко відкрив скриньку Пандори з немислимими раніше муками, жертвами яких тепер стануть нещасні читачі його блогу. У відповідь на пост Роко він нібито сказав:

Послухайте мене, та ви ідіот. 

ВИ НЕДОСТАТНЬО ДЕТАЛЬНО ПОДУМАЛИ ПРО ТЕ, ЯК НАДРОЗУМИ ВИРІШУЮТЬ, ЧИ КАРАТИ ВАС, ЧИ НІ. ЦЕ ЄДИНА МОЖЛИВА РІЧ, ЯКА ДАЄ ЇМ МОТИВ ДЛЯ ПОКАРАННЯ.

Треба бути дійсно розумним, щоб прийти до справді небезпечної думки. Та мене засмучує, що люди здатні бути достатньо розумними, щоб до такого прийти, але не здатні зробити очевидну річ і ТРИМАТИ СВОЇ ІДІОТСЬКІ РОТИ ЗАКРИТИМИ щодо цього, бо їм важливіше звучати як інтелектуали у розмовах з друзями.

Цей пост ТУПИЙ.

Згодом пост було видалено, а всі згадки про Василіска на сайті були заборонені понад п’ять років. Проте Василіск уже завдав шкоди читачам форуму, багато з яких почали відчувати психологічні труднощі. Параноїдальні страхи майбутнього існування Василіска тепер стали чимось середнім між міською легендою та справжньою темою філософських дискусій, не кажучи вже про те, що його серйозно сприймають деякі провідні технологічні підприємці та науковці, які наразі керують дослідженнями ШІ. Логіка, що стоїть за Василіском, навіть (необґрунтовано) підкріплюється Позачасовою теорією рішень та Баєсовою ймовірністю.

Фактично Юдковський (2010) детально проілюстрував теорію, що лежить в основі проблеми Василіска, посилаючись на дилему в’язня, яку, як ми пам’ятаємо, Лакан використовує у своєму обговоренні логічного часу. Дилема в’язня — мисленнєвий експеримент у теорії ігор, де дії декількох в’язнів залежать від очікуваних рішень один одного, задля забезпечення своєї свободи. Ця дилема втілювала для Лакана трьохчастинну структуру часу, яка приховано діє в концепції так званого раціонального мислення. Він назвав ці етапи миттю бачення, часом для розуміння та моментом укладення висновку. Відповідно, хоча логічний час не є об'єктивним, це не означає, що його не можна сформулювати за суворою структурою — структурою інтерсуб'єктивної логіки, заснованої на діалектичному відношенні між ваганням та терміновістю. Саме цю логіку ми спостерігаємо в аутопоетичному Василіску Роко, що її можна також назвати іншим терміном, гіперстицією.

Термін гіперстиція [hyperstition] був створений Відділом кібернетичних культурних досліджень (CCRU) Університету Ворика і продовжує бути одним з основних понять руху Акселераціонізму. Поєднання «hyper» і «superstition», спираючись на бодріярівську логіку гіперреальності, або ж гіпер-стиція, перефразовуючи Ніка Срнічека та Алекса Вільямса (2014), авторів #Accelerate Manifesto for Accelerationist Politics, стосується наративів, здатних втілювати себе в реальність через дію петель зворотного зв’язку, які створюють нові соціально-політичні атрактори. Василіск Роко начебто функціонує саме за цією гіперстиційною логікою. Як обчислювальна форма парі Паскаля, задля свого функціонування, він спирається на ряд передумов. По-перше, умову, що концепція сингулярного надрозуму передбачає здатність до абсолютного та повного згадування всіх даних, і по-друге, здатність симулювати кожну історично живу істоту, щоб потім її катувати. По-третє, він передбачає віру в те, що симуляція еквівалентна суб'єкту. Однак, як зазначила Ана Тейшера Пінто (2018), теологічні та параноїдальні відтінки Василіска функціонують як:

персоніфікація ШІ як едіпального звіра […] і коду як чоловічого сімені. Ті, хто шукають математичні докази ймовірності цього пророцтва, упускають суть. Зміст мисленнєвого експерименту Роко є символічним, а не науковим: він промовляє через шифр та алегорію.

Тейшера Пінто підкреслює едіпову логіку, що лежить в основі постулюванні Василіска, але до цього можна додати й те, що фалічне задоволення, пов’язане з уявленням про абсолютну математизовувану Єдиність, яка не допускає жодних винятків, є чоловічою логікою в її найчистішому вираженні. Василіск також функціонує як найвищий індикатор тривоги — неможливий об'єкт як причина бажання й водночас цілковитого знищення. Бідна людина в цьому випадку затиснута між скінченним шматом м’яса, що завдає їй страждання, та нескінченною симуляцією, якою вона неминуче стане. Що здається поставленим на карту в цих спекуляціях про Сингулярність,  так це те, що Лакан у Функції та полі називав future-anterior [майбутній доконаний час]:

Те, що реалізується в моїй історії, — це не минуле як остаточне «було», бо його більше не існує, і навіть не теперішнє того, що «сталося» в тому, ким я є, а future-anterior — те, ким я вже, як виявиться, був для самого себе в процесі мого становлення.

У логіці Василіска Роко ми можемо збагнути мебіусову структуру відносин між ШІ та психоаналізом, яку ця книга спробує зобразити, топологію, яка, як би далеко не подорожувати нею, завжди неминуче приведе до своєї інверсії: свого екстимного ядра.

Частина I. ШІ: Невдача, Травма, Обман

Словникове визначення інтелекту, від латинського «intus» (між) та «legere» (вибирати), передбачає здатність розрізняти, приймати рішення, розуміти, мати вміння, мистецтво, смак і, зрештою, знання. Проте термін «штучний» перед «інтелектом» негайно створює враження, що ми маємо чітке визначення того, чим є справжній інтелект; самовпевненість, яка у філософських термінах змішує technē та epistēmē, а в психоаналітичних термінах сприймає як належне окремі категорії знання, істини та, що найважливіше, насолоди.

Людський інтелект передбачає різноманітні взаємодії між різними навичками, наприклад, комбінацію та взаємодію візуального сприйняття, моторних навичок, пам’яті, мовлення, просторового мислення, слухової обробки, які можуть використовуватися у будь-який момент. Не всі ці навички, звичайно, прозоро зрозумілі для «інтелектуальної людини», яка їх використовує. Це — парадокс, що лежить у самісінькому центрі дискусій між нейронаукою та філософськими підходами до свідомості, які виходять із принципово різних засад того, як можна говорити про суб’єктивні феномени. Наприклад, на найпростішому рівні, той факт, що ви можете бачити, не означає, що ви «знаєте», як працює зір. І навпаки, знання того, як працює зір, не гарантує, що ви зможете бачити. Такий самий тип комбінації функцій буде присутній у будь-якій складній програмі ШІ, яка матиме інтегровані елементи, до яких отримує доступ основний процесор. Це може включати міркування на основі доказів, мовні навички, аналіз тексту, датчики, алгоритми прийняття рішень, аналіз даних тощо.

Наприклад, чи можна сказати, що програма, яка обробляє візуальну інформацію, розуміє, як працює зір? Чи програмне забезпечення для розпізнавання облич працює для комп’ютерів так само інтуїтивно, як для людей? На думку деяких комп’ютерних науковців, відповідь — так, комп’ютери, як і люди, мають «інтуїцію» (Hammond, 2018). Отже, у дуже базових термінах ми можемо побачити, що існує розбіжність між технічною або машинною здатністю та теоретичним знанням, що є невіддільною частиною концепції Штучного Інтелекту, як вона зазвичай використовується. Однак, як зазначає Лідія Лю (2010), одна справа — стверджувати, що людський мозок можна розширити за допомогою комп’ютерного чіпа, і зовсім інша — уявляти, що логіка комп’ютера та людської психіки аналогічні, цей протезний аргумент, як вона його називає, є направду «алібі для чогось більш фундаментального, що відбувається з середини двадцятого століття; це кібернетична концепція людської психіки як обчислювальної машини». Те, що залишається до сьогодні поширеною парадигмою для роздумів про Штучний Інтелект, — це відносини між комп’ютером і мозком. Але, як ми побачимо, цей специфічний фокус на аналогії мозку та комп’ютера залишає невирішеними важливі психоаналітичні питання.

Останнім часом галузь штучного інтелекту розвивається експоненційно, і розмаїття технічних підходів у цій сфері викликає інтерес із боку численних філософських напрямів, які досліджують її концептуальні наслідки. Сьогодні ШІ охоплює величезний діапазон явищ, включаючи ті, що підпадають під цілеспрямований «вузький» ШІ або Штучний Вузький Інтелект (ШВІ) [Artificial Narrow Intelligence], який виконує обмежені завдання, такі як сортування, відстеження, прогнозування чи розпізнавання шаблонів даних на основі різних алгоритмів. Це може використовуватися в додатках, таких як Google Search та Amazon Alexa, або підкріплюватися більш складним ШІ для розробки автономних транспортних засобів чи AVs (Apple’s Project Titan та Tesla’s Autopilot), у профілактичній медицині (Microsoft AI) і, що більш суперечливо, в автономних системах озброєння. На протилежному полюсі, однак, маємо робототехніку, глибинне навчання та нейронні мережі, що знаходять складніші форми реалізації у симуляціях і, мабуть, найзагадковішим чином — у проєкті «Blue Brain», про який ми ще говоритимемо.

Нещодавній збірник есе «Провулки вашого розуму: розширений інтелект та його травми» розглядає питання Штучного Інтелекту з перспективи сучасної критичної теорії. Збірка містить внески від провідних мислителів, що вони різноманітними способами критикують популярні концепції ШІ та ставлять питання; що означає мислення в епоху Штучного Інтелекту, і як масштабні обчислення трансформують способи функціонування нашого мозку. Головна задумка книги — розкрити «позитивну роль, яку відіграють помилка та травма у побудові наших сучасних технологічних умів» (Pasquinelli 2015).

У своїй частині, Маттео Пасквінеллі (2015) стверджує, що сучасні філософські дебати щодо питання технологій та розуму коливаються між, з одного боку, неоматеріалізмом і, з іншого, неораціоналізмом (або іншими словами, позиціями, які спираються або на Уайтгеда, або на Селларса). Перший є прихильником «агентності технічних об'єктів, матерії та афектів», а другий радше розглядає «примат розуму та його потенційні форми автономізації», або здатність синтетичного розуму стати автономним. Проте Пасквінеллі вважає це розрізнення хибним і думає натомість, що жодна парадигма пізнання та обчислення не може бути оцінена без визнання «епістемічного аномального» або того, що він називає «ноетичною невдачею», що ми могли б перекласти як ментальну або інтелектуальну помилку. Це означало б, що слід розрізняти філософії, які визнають позитивну роль «помилки, аномальності, патології, травми та катастрофи», від тих, що підтримують плоску онтологію без цих «динамічних, самоорганізуючих та конститутивних розривів» (ibid.). Слідуючи урокам Франкфуртської школи щодо травми розуму, Пасквінеллі стверджує, що розум травми має бути «перевідкритий як справжня внутрішня логіка епохи розумних машин» (ibid.). У вступі до збірки він зазначає:

Одного дня вже не видаватиметься довільним переосмислити філософію ХХ століття та її «розумні машини» як пошук позитивного визначення помилки, аномалії, травми й катастрофи — низки понять, які слід осмислювати у їхній когнітивній, технологічній та політичній структурі.

Проводячи паралелі з історією біовлади Фуко та технологіями «я», які мають спільне коріння з кібернетикою та її «машинами, дружніми до помилок», і стверджуючи, що машини бажання Дельоза і Гваттарі насправді відлунювали дослідження військової травми та пластичності мозку з часів Першої світової війни, він заявляє, що:

Крізь історію обчислень (від ранньої кібернетики до Штучного Інтелекту та нинішнього алгоритмічного капіталізму) як основні технології, так і критичні відповіді на них поділяли спільну віру в детермінізм та позитивізм інструментальної або технологічної раціональності, використовуючи формулювання Франкфуртської школи.

Мета збірки, таким чином, полягає в тому, щоб навпаки висвітлити роль «помилки, травми та катастрофи в проєктуванні розумних машин та теорії розширеного пізнання». Пасквінеллі стверджує, що визначення інтелекту залишається відкритою проблемою, оскільки з філософської точки зору людський інтелект завжди є у першу чергу штучним. Інтелект — це комбінація різних складних і багатогранних здібностей, які не піддаються простому визначенню. Пасквінеллі виокремлює три основні «помилки» в сучасних дебатах про стан Штучного Інтелекту. По-перше, антропоцентрична помилка, яка наївно припускає, що Штучний Інтелект був би аналогічним людському інтелекту в поверхневому сенсі приписування ШІ загрозливих та зловісних мотивів. У цьому баченні ШІ, він зловмисний хижак, метою якого є знищити нас або принаймні змусити нас страждати. По-друге, хибне уявлення про «самозапуск» [bootstrapping fallacy], яке передбачає безперервне експоненційне зростання машинного інтелекту за аналогією з розвитком людської психіки — у тому сенсі, що відносна й поступова складність когнітивних завдань для людини нібито прямо відповідає поступу машинного інтелекту. Ця помилка полягає в тому, що не враховуються різні форми когнітивних здібностей, які передбачає людський інтелект, і способи, якими деякі процеси, що є дуже складними для людей, легко відтворюються алгоритмами, тоді як інші, здавалося б, прості людські завдання є надзвичайно складними інженерними подвигами для ШІ. І нарешті, третя проблема — це помилка Сингулярності, яка, поєднуючи елементи двох попередніх проблем, передбачає віру в те, що настане вирішальний момент об'єднання та синхронізації різних технологій, що імітують, підсилюють і, зрештою, перевершують людський інтелект, ба більше, формують однорідний і всемогутній спосіб мислення, здатний зробити людський інтелект (і, відповідно, вид загалом) зайвим.

Критика Пасквінеллі сучасних помилок навколо концепцій ШІ та необхідності підходити до ШІ на основі помилки, травми та катастрофи неявно вказує на психоаналітичні виміри та наслідки ШІ. По-перше, проблема, якою стурбований Пасквінеллі, пов’язана з уявною ідентифікацією, яка, здається, є досить поширеною в наших неправильних уявленнях про Штучний Інтелект. Тут передбачається припущення, що здатність символічно спілкуватися містить елемент інтерсуб'єктивності, що є принципово помилковим. У лаканівських термінах це стосується питання неправильного розпізнавання або уявного méconnaisance і, зрештою, перенесення. По-друге, ми повинні більш уважно розглянути характеристику концепції травми та патології як непризнаного онтологічно значущого фактора в позитивістському проєкті дослідження ШІ. Це головне занепокоєння, на якому була збудована вся фройдівська концепція: поняття травми та переосмислення того, що раніше вважалося патологією, як чогось притаманного самій психічній структурі. Адже саме через травму й симптом Фройд знайшов шлях до розшифрування істеричних проявів своєї першої пацієнтки — і не просто  сенсі відкриття нещасної чи травматичної події, а радше як усвідомлення того, що травма, у фройдівському описі (а згодом у лаканівській формалізації), є для психоаналітичного суб’єкта структурно визначальною. Суб’єкт у психоаналітичному розумінні характеризується конститутивною невдачею.

Бенджамін Браттон (2015) також застерігає нас щодо того, що сучасні полеміки навколо значення мислення та життя з радикально іншими формами синтетичного інтелекту критично неправильно розуміють реальні проблеми, які стоять на кону, застрягши в антропоцентричних оцінках ШІ. Браттону йдеться про те, що ми повинні протистояти спокусі розуміти ШІ через призму людського інтелекту, бо робити це було б «самонищівним, неетичним і, можливо, навіть небезпечним». З цієї причини він виступає за розширення концепції інтелекту, щоб розташувати людський інтелект лише як одну форму інтелекту вздовж більшого континууму. Таким чином він пропагує форму «антиупередженості» у нашому розумінні того, що може вважатися розумним мисленням; це крок до глибшого усвідомлення викликів, пов’язаних із співжиттям і мисленням разом з Іншим — Штучним Інтелектом.

Браттон припускає, що наші фантазії про ШІ як такий, що він відчайдушно бажає бути людиною, наприклад, «A.I.» Стівена Спілберга (2001) чи «Bicentennial Man» Кріса Коламбуса (1999), або зловмисно зосереджений на нашому знищенні, наприклад, «Термінатор» Джеймса Кемерона (1984) чи різні епізоди серіалу Чарлі Брукера «Чорне дзеркало», лише відображають наші власні бажання, параною та нарцисичний образ себе. Те, що ШІ так прагнутиме привернути нашу увагу — можливо, просто марні бажання; найгірший сценарій може полягати в тому, що він зовсім нас не помічатиме:

Справжній кошмар, ще гірший за той, в якому Велика машина хоче тебе вбити, це той, у якому вона вважає тебе неважливим, або навіть не сприймає як окрему сутність, яку варто пізнати. Гірше, ніж бути ворогом, — це бути зовсім непоміченим.

Ідея Штучного Інтелекту, який сприймається як людиноподібний, каже Браттон, є чинною точкою відправлення, але не чинним висновком, до якого треба прийти. Крім того, важливе розрізнення, яке проводить Браттон у дослідженнях ШІ, полягає між термінами «штучна дурість» [artificial stupidity] та «штучна ідіотія» [artificial idiocy]. Перший термін позначає навмисно запрограмовані помилки в ШІ, щоб зробити його більш реалістично людським (наприклад, не вигравати в кожній грі, де він міг би легко щоразу перемагати людину). Другий термін стосується проблеми, яка виникає, коли ШІ виконує свої завдання занадто добре, на шкоду іншим факторам. Апокаліптичний приклад, який уперше навів Нік Бостром (2014), — це «виробник скріпок», що виконує команду виготовляти скріпки доти, доки весь світ не буде поглинутий їхньою нескінченною кількістю. Це і є так звана ідіотія ШІ. У першому прикладі Браттона штучна дурість має на меті створити соціальний зв’язок між ШІ та його людським компаньйоном. Ідіотія ж ШІ, навпаки, полягає в такому «ідеологічному» дотриманні вказівок свого господаря, що всі інші фактори знецінюються до повної незначущості. Отже, тут «сліпа пляма» функціонує в різних місцях. Або ж можна сказати, що в кожному випадку продукується якась своя різна насолода [jouissance]. Дурість чи ідіотія ШІ, за Браттоном, може розглядатися як дискурсивна структура, в якій насолода виробляється відповідно до відносних позицій істини та знання. Таким чином, поняття дурості набуває фундаментального структурного значення у зв’язку з питанням насолоди.

Браттон також звертає увагу на те, що, на його думку, підхід людей до ШІ є внутрішньо «упередженим» (2015), оскільки мета тесту Тюрінга полягає в тому, щоб обдурити співрозмовника й змусити повірити, що ШІ — це людина. Тому ШІ мусить «перевдягнутися в протилежне» [in drag]. Але, як зауважує Браттон, суть справжнього перевдягання полягає не в тому, щоб переконати когось, ніби ти — людина протилежної статі, а в тому, щоб змусити людину тимчасово призупинити свою віру щодо твоєї сексуальної чи гендерної ідентичності (у формі заперечення «Я чудово знаю, але…»). Цей момент він обговорює у зв’язку зі скандалом навколо викриття Тюрінга як гомосексуала (що на той час було незаконним) і його подальшої хімічної кастрації, що спричинило Тюрінгу невимовні страждання, які в кінцевому підсумку призвели до самогубства. Враховуючи, що імітаційна гра Тюрінга ґрунтувалася на логіці обману співрозмовника, змушуючи того повірити, що він належить до певного гендеру (в чому ШІ мав бути не гіршим за людину), ці паралелі є значущими.

Варто зауважити гірку іронічну відповідність між вимогою до ШІ пройти тест, щоби вважатися розумним — тобто видати себе за людський інтелект — і потребою самого Тюрінга приховувати свою сексуальність і видавати себе за гетеросексуального чоловіка. Вимоги обох цих маскарадів — зайві й глибоко несправедливі.

Однак питання про відносини між сексуальною ідентичністю та ШІ насправді є набагато більш психоаналітично складним, ніж політична іронія щодо потенційних проблем з антропоцентризмом у дослідженнях ШІ, як про це йдеться Браттону. Як ми обговоримо далі в розділі 5, тест Тюрінга, при ретельному розгляді, демонструє фундаментальну основу для взаємозв’язку між сексуацією в психоаналітичних термінах і Штучним Інтелектом.

По суті, аргументовано утопічне повідомлення Браттона полягає в тому, що замість того, щоб змушувати ШІ відповідати заздалегідь визначеним стереотипам про тип мислення, який ми можемо визнати «реальним», ми мусимо дозволити ШІ в усіх його різноманітних формах, про які ми постійно дізнаємося, й навчити людей «повнішому і правдивішому діапазону того, чим може бути мислення». Диверсифікація того, що вважається «думкою», відповідає реалістичному повороту в сучасній теорії та пропонує нам важливу перспективу у відношенні до просування психоаналітичних парадигм за межі постструктуралістських тенденцій. Але, крім того, ми повинні звернути увагу на той факт, що (як сам Браттон вказує у своєму прикладі дурості ШІ) існує конститутивна частина «думки», яка включає діалектичні відносини між позиціями істини та знання в будь-якій заданій дискурсивній структурі.

Переклад є любительським і зроблений з ознайомчою метою. Усі права належать авторці оригінального тексту.