2023 год, мир только начинает привыкать к ChatGPT. Публичная дискуссия мечется между «о да, сверхразум придёт и всех спасёт!» и «о нет, сверхразум придёт и всех убьёт!»; но обе позиции, что характерно, удовлетворяют технологические корпорации, потому что обе исходят из того, что сверхразум всё-таки придёт. Итальянский философ науки Маттео Пасквинелли этого энтузиазма не разделяет. Его интересует гораздо более приземлённый вопрос: откуда вообще возникла идея машинного интеллекта? Так в 2023-м выходит «The Eye of the Master» — книга, написанная в традиции критической теории.

Обещанная подзаголовком социальная история ИИ оказывается одновременно историей демистификации. Пасквинелли разбирает машину примерно так, как немецкий философ Фейербах разбирал Бога: человек проецирует (отчуждает) на высшее существо собственные силы и способности, а потом не узнаёт их и поклоняется им как чужим. Критикуя фантазии о технологической сингулярности, обычно указывают на вытесненный в них материальный базис — телесный, экономический, природный. Пасквинелли расширяет этот список. Так, вытесненной оказывается сама человеческая практика в самом широком смысле: труд, навыки, коллективные знания. Всё то, что обладает собственной изобретательностью задолго до того, как её присвоят технонаука или капитал. Коллективные знания систематически извлекаются, кодируются и продаются обратно тем, кто их произвёл.

Пасквинелли встраивает в свою «трудовую теорию машинного интеллекта» целую россыпь исторических фрагментов, которые лично для меня были даже интереснее, чем сама теория. Об этих эпизодах-открытиях дальше и пойдёт речь.

Например, изобретатель перцептрона (первопредка нейронных сетей, как мы знаем их сегодня) — Фрэнк Розенблатт, 1957 г. — был не инженером, не математиком, а психологом! И путь его к перцептрону лежал через психометрику. Грубо говоря, различные тесты для людей. В докторантуре Розенблатт раздал двумстам студентам анкету о детстве, оцифровал ответы по числовым шкалам — и увидел в них паттерны, закономерности. Он подумал: «Так ведь можно всех, кто прошёл тест, разделить на типы личности!» А потом его осенило (совсем нетривиально): «Чем отличается числовая матрица ответов на тест от матрицы пикселей в изображении? Ничем. Значит, можно распознать паттерны на картинке!» Так машина, задуманная для типологизации людей, стала машиной для восприятия визуального. Удивительно, но об этом зачастую не рассказывают ни в программе обучения на психолога, ни на курсах для программистов, хотя история очень занятная. Учитывая, что последующие нейросети действительно выросли из автоматизации зрения, исследователи говорят об «оптическом бессознательном» машины. По сути, метод, придуманный для картинок, просто расползался на звук, текст, поведение. Однако сделаем шаг назад: изначально Розенблатт лишь пытался доказать существование различимых типов личности. Получается, проект ИИ тут возникает из автоматизации психометрии социального поведения, а не из стремления разгадать «загадку разумности»? При этом первая машина, построенная по этой логике, умела совсем немного. Она имитировала сетчатку глаза и могла отличить чёрный квадрат слева от квадрата справа и распознать простые буквы — но только если их аккуратно выравнивали по центру. Скажем, уловить различие между «N» и «Z» тоже было проблематично. Тем не менее, New York Times, подбирая слова к этому чудесному процессу, особо не мелочилась: «Этот эмбрион электронного компьютера скоро сможет ходить, говорить, видеть, писать, воспроизводить себя и осознавать своё существование!» — писали они.

Психоанализ и психометрия всегда позиционировались как оппоненты: одна традиция настаивает, что субъект несводим к некоему профилю, другая — что профиль и есть всё, что можно о субъекте знать научно. Архитектура современного ИИ ближе ко второй традиции. Тот «интеллект», который представляют собой системы ИИ — это трюк с проецированием данных в многомерное пространство для кластеризации, классификации и предсказания. Машинное обучение — автомат типологизации, возведённый в мировой масштаб. Если посмотреть на тот же рекомендательный алгоритм, решающий, какие посты появятся в нашей ленте, он относит нас к «такому-то типу пользователя», и честно исполняет психометрическое кредо. Только теперь анкету о своих пристрастиях заполняет не человек лично, а его история браузера. То же самое с генеративными текстами. Их усреднённость, конвенциональность, безвкусность (в том смысле, что ИИ-текст получается гладким и пресным) — не просто раздражающее временное несовершенство. Это прямое следствие устройства: статистическая машина по определению тяготеет к центру распределения. Она измеряет… — и навязывает измеренное обратно как норму.

В то время как господствующая точка зрения гласит, что машинный интеллект — это попытка понять тайную логику человеческого ума, или хотя бы глубинную физиологию мозга, Пасквинелли делает упор на взаимосвязь между формами технологических инноваций и социальной организации. Было ли что-то придумано или автоматизировано из чистой «любви к прекрасному»? От тяги к высоким абстракциям? Автор считает, нет. Даже наши базовые абстракции, которые кажутся вечными, априорными и несконструированными, если верить книге, имеют трудовую и экономическую родословную. Счёт возникает из необходимости вести торговые расчёты, решать практические задачи вроде разделения земли; само слово «число» по одной из версий происходит от латинского numerus — «порция еды». А форма числа и времени (по Эрнсту Кассиреру, и ранее Карлу Бюхеру), вырастает вообще из рабочих песен: песни прядильщиц, молотильщиков и гребцов ритмически членили трудовой процесс, и у языка, пишут философы, не было иной возможности достичь чистой формы времени и числа, кроме как через эти фундаментальные ритмические ощущения. То есть ещё до того, как числами стали записывать музыкальные размеры, сам ритм работы как бы изобрёл числа. Древние общества при этом уже были так называемыми мегамашинами — социальными механизмами разметки тел и территорий, где абстракции (числа, надрезы, татуировки, переписи) материализовались как форма власти через труд, ритуал и дисциплину. Иными словами, счётные орудия, примитивные абстрактные машины всегда помогали поддерживать социальный порядок. То же самое с цифрами, которыми мы пользуемся сейчас. Индо-арабские цифры победили римские не из-за элегантности, а просто потому что упрощали бухгалтерию. Двоичная система победила десятичную, потому что её проще реализовать в электрических схемах, нужных в том числе промышленному капитализму. Каждый скачок абстракции, утверждает Пасквинелли, оплачен экономическим сдвигом. Ещё одна его идея состоит в том, что технологии не падают на общество сверху; общество самостоятельно выковывает их изнутри.

Другая интересная история связана с генеалогией самого компьютера. Автор предлагает неожиданную оптику: первыми компьютерами (Англия XIX века) были не машины, а женщины. Офисные сотрудницы, студентки, а то и безработные вручную вели утомительные расчёты для правительства и флота. Империи требовались сверхточные логарифмические таблицы для навигации кораблей — ошибки в них приводили к кораблекрушениям и крупным коммерческим убыткам. Первый ход в этом деле совершил французский математик Гаспар де Прони — он применил к ручным расчётам промышленное разделение труда. По замыслу, математики, видящие задачу целиком, дробят её на понятные блоки, и передают «алгебраистам», а те отдают «механистические» вычисления дальше, рабочим. При этом нижний слой этой пирамиды, люди-компьютеры, могут выполнять свою часть расчётов без понимания, как те используются дальше. Чтобы упростить нахождение логарифмов, применяли математический трюк с методом разностей (сложное умножение заменялось простым сложением и вычитанием). Английский математик Чарльз Бэббидж сделал следующий шаг — перенёс это разделение труда внутрь механизма. Он описал прототип, получивший название Разностная машина. Аппарат, в силу своей механики, был «железом» и «программой» одновременно, то есть был способен лишь необратимо выполнять одну большую непрерывную операцию. Это похоже на музыкальную шкатулку. Пока ты двигаешь рукоятку, проигрывается заранее продуманная мелодия, всегда одна и та же. Бэббидж мечтал, чтобы Англия стала самым большим поставщиком логарифмических данных в мире. Опять-таки, похоже, целью стала не грёза о мыслящей машине, а попытка придать бизнесу респектабельность, а также экономить, оплачивая каждую операцию минимально возможной ценой.

Иронично, что прототип Разностной машины так и не был достроен, а звание первой промышленной машины с независимым вводом информации принадлежит куда более скромному Жаккардову ткацкому станку (1801). Первое в мире программируемое устройство? Да это же машина — для ткани с цветочками! Станок управлялся с помощью бумажных перфокарт. Отверстия в них определяли, как именно поднимутся нити для создания сложного узора. Именно ткацкий станок ввёл перфокарты, которые IBM использовала в неизменном виде до конца XX века. Здесь же первая в истории «цифровая картинка» — портрет Жозефа Жаккарда, на который потратили целых 24 тысячи карточек! Выходит, компьютер в каком-то смысле произошёл от ткачества, и, как дополнил бы Пасквинелли, от того самого труда, разумность которого индустриальная эпоха отрицала усерднее всего.

Вместе с Бэббиджем, кстати, трудилась и Ада Лавлейс, о которой все слышали как о «первой программистке». В то время как у Чарльза всё строилось на расчёте, количестве, конкретных числах, Ада увидела за ними символы. И описала машину более общо, как некое воплощение науки операций. Что если устройство будет оперировать не только числами, но и чем угодно, по некоторым правилам? Буквами, нотами и т. д.? Тогда можно аналитически вычислить что угодно. Можно создавать слова, тексты, писать музыку. Именно Лавлейс первой поставила под сомнение антропоморфные представления о машине (причём Бэббидж просил опубликовать её текст анонимно — признание вклада пришлось отстаивать). В знаменитом примечании Ада пишет, что Аналитическая машина может делать всё, что мы знаем, как приказать ей выполнить; способна следовать анализу, но не предвидеть аналитические отношения и истины. Алгоритмы не способны творчески нарушить правила, на которых основаны, и, что важнее, устойчиво изобретать новые.

Надеюсь, эти короткие зарисовки вдохновят на самостоятельное прочтение книги. В целом, работа оставляет мысль, что если в ИИ и есть тайна, то это тайна неузнавания — мы не опознаём в нём собственный труд, собственные знания, собственные социальные конвенции, отчуждённые и предъявленные нам как чужой разум. Автор показывает, как часто вопрос о власти машин над людьми оказывается вопросом о власти одних людей над другими. Просто опосредованным через машину. Но это же, кстати говоря, значительно менее фантастично — и значительно более поправимо, — чем устрашающий душу сверхразум.

Если вам интересны другие любопытные истории про технологии или психоанализ, можно также перейти сюда или подписаться на мой телеграм-канал.