Donate
e-flux

Хито Штейерль. Море Данных: Апофения и Паттерны (Не-)Распознавания

Anna Botalova01/09/18 21:056.9K🔥

Публикуем перевод статьи немецкой кинематографистки, художницы и писательницы Хито Штейерль, опубликованной в журнале e-flux в апреле 2016 года. В ней профессор медиаискусства Берлинского университета искусства UdK рассуждает о современной эпохе воскрешения неолита, нейронных сетях, атаках правительственных дронов и феномене апофении, то есть распознавании закономерностей в помехах и шуме.


Изображение из файлов Сноудена было подписано: «Кадр из расшифрованого видео».
Изображение из файлов Сноудена было подписано: «Кадр из расшифрованого видео».

Это изображение из дела Сноудена. На нем стоит гриф «секретно». [1] Однако невозможно распознать, что на нем изображено.

Вот что симптоматично.

Невозможность вычленить понятную и имеющую смысл информацию — это новая норма. Информация сейчас передается через серию сигналов, которые не могут быть распознаны человеческими органами чувств. Современное восприятие по большей части является машинным. Спектр же человеческого восприятия занимает лишь небольшую его часть. Электрические сигналы, радиоволны, пульсации света, зашифрованные одной машиной для другой машины, проносятся мимо с околосветовой скоростью. Непосредственное наблюдение вытеснено подсчетом вероятностей. Зрение теряет свою важность и замещается операциями фильтрования, дешифровки и распознавания паттернов. Сноуденовское изображение, на котором мы видим шум (Термином «шум» называют разного рода помехи, искажающие передаваемый сигнал и приводящие к потере информации. — прим.пер.), может символизировать общечеловеческую нехватку — неспособность воспринимать технические сигналы, только если они не приведены в форму, доступную для восприятия.

Но шум — это не ничто. Наоборот, шум — это огромная проблема не только для NSA (Подразделение Министерства обороны США, входящее в состав Разведывательного сообщества на правах независимого разведывательного органа, занимается радиоэлектронной разведкой и защитой электронных коммуникационных сетей госучреждений США. — прим. пер.), но и для машинных модусов восприятия в целом.

Роуз Мэри Вудс, секретарша Никсона, демонстрирует «Растяжку Мэри Роуз» — жест, который, возможно, был причиной стирания важного сегмента уолтергейских кассет. Качество шумов в этом сегменте было тщательно проанализировано, чтобы понять, была ли эта оплошность умышленной или нет.
Роуз Мэри Вудс, секретарша Никсона, демонстрирует «Растяжку Мэри Роуз» — жест, который, возможно, был причиной стирания важного сегмента уолтергейских кассет. Качество шумов в этом сегменте было тщательно проанализировано, чтобы понять, была ли эта оплошность умышленной или нет.

Сигнал v. Шум — таков был заголовок колонки, ведущейся с 2011 по 2012 на сайте NSA. В ней сжато формулируется главная проблема NSA: как извлекать «нужную информацию из тонн данных»?

Проблема не в сборе данных и даже не в доступе к ним. Проблема — в получении информации из тонн данных… Разработчики, пожалуйста, помогите! Мы утопаем в море данных — в данных, данных повсюду, но без капли информации. [2]

Аналитики буквально задыхаются. Им нужно расшифровывать, декодировать, очищать от мусора тонны данных. Фокус сдвигается от их приобретения к распознаванию, от нехватки к избытку, от добывания к фильтрации, от исследования к распознаванию паттернов. Эта пр облема распространяется и на секретные службы. Даже основатель WikiLeaks сетует: «Мы тонем в материале». [3]

Апофения

Но давайте вернемся к изначальному изображению. На деле этот шум был расшифрован специалистами Центра правительственной связи — в результате было обнаружено изображение облаков в небе. Британские аналитики взламывали потоки видео от израильских дронов по крайней мере с 2008 — в период, который включает в себя воздушные атаки на Сектор Газа Армией обороны Израиля. [4] Однако в архивах Сноудена не содержится ни одного изображения этих атак. Вместо этого в нем полно абстрактной визуализации перехваченных вещаний. Шумы. Линии. Цветовые пятна. Согласно учебным пособиям, нужно применить тысячи секретных манипуляций, чтобы создать такие изображения.

Однако позвольте мне сказать вам кое-что. Я расшифрую это изображение для вас без всяких секретных алгоритмов. Вместо этого я буду использовать секретную технику ниндзя. И я даже бесплатно научу вас делать это самим. Пожалуйста, сфокусируйтесь как следует на этом изображении.

Разве оно не выглядит, как мерцающая поверхность воды в лучах заходящего солнца? Может быть, это и есть само «море данных»? Избыточный океан, в котором легко утонуть? Вы видите легко покачивающиеся волны?

Я использую старый-добрый метод, который называется апофения.

Апофения означает распознавание узоров, закономерностей в, казалось бы, случайной информации. [5] Самый простой пример апофении — это распознавание лиц в облаках или в лунной поверхности. Апофения — это «установление корреляций между источниками, у которых нет никаких иных связей, кроме как одновременного присутствия в восприятии», как Бенджамин Бреттон недавно это сформулировал. [6]

Мы можем представить, что аналитики тоже иногда используют апофению.

Должно быть, кто-то увидел лицо Амани аль-Назазры в облаке. Когда ей было 43, она была ослеплена при воздушной атаке в Секторе Газа, сидя перед собственным телевизором:

«Мы были дома, смотрели новости по телевизору. Муж сказал, что собирается пойти спать, но я хотела остаться и послушать Аль-Джазира (Международная телекомпания со штаб-квартирой в Дохе, столице Катара. — прим.пер.), чтобы узнать, есть ли какие новости о прекращении огня. Последнее, что я помню, — как муж спросил, переключила ли я канал, и я ответила, что да. Я ничего не почувствовала, когда ударила бомба, — я была без сознания. И я очнулась только в скорой помощи». [7] Амани получила ожоги второй степени и была ослеплена.

Какой сигнал был извлечен из какого шума, чтобы предположить, что аль-Назазра — это нужная цель? Какие лица появились на каких экранах, и почему? Или, ставя вопрос по-другому, кто является «сигналом», а кто «помехами», могущими идти в расход?

Распознавание Паттернов

Телеканал «Звезда» утверждает, что стая птиц, пролетающая над Нью-Йорком, явилась в форме лица Путина. Скриншот из видео на YouTube.
Телеканал «Звезда» утверждает, что стая птиц, пролетающая над Нью-Йорком, явилась в форме лица Путина. Скриншот из видео на YouTube.

Жак Рансьер рассказывает миф о том, как, должно быть, совершалось различие сигнала от шума в Древней Греции. Звуки, издаваемыми богатыми жителями города определялись как речь, тогда как считалось, что женщины, дети, рабы и иностранцы производят искаженный шум. [8] Различие между речью и шумом служило чем-то вроде политического фильтра спама. Тот, кто определялся как говорящий, носил звание гражданина, тогда как остальные считались неважными, иррациональными и потенциально опасными элементами — помехами. Подобным образом и сейчас вопрос различения сигнала и шума имеет фундаментальное политическое измерение. Распознавание паттернов резонирует с политическим распознанием. Кого «распознают» на политическом уровне, и как что? Как субъектов? Как личностей? Имеющую права категорию населения? Или, возможно, как «грязную информацию»?

Что значит «грязная информация»? (В оригинале «dirty data», но возможен дословный перевод, так как информация никогда не может быть «чистой» и ее всегда нужно очищать от неточностей, ошибок и искажений. — прим.пер.) Приведу один пример:

Силливан из агенства Booz Allen рассказывает о том, как его команда в процессе анализа демографической составляющей роскошного отеля наткнулась на данные, показывающие, что частыми гостями там являлись подростки из благополучных стран Среднего Востока.

«Целая группа 17-летних подростков останавливалась в отелях по всему миру», — говорит Силливан, — «Мы думали, что это не может быть правдой». [9]

Эта демографическая находка была классифицирована как «грязная информация» — спутанная и бесполезная, — пока кто-то не обнаружил, что, на самом деле, она была правдивой.

Темнокожие подростки в таком мировоззрении могут существовать. Мертвые темнокожие подростки? Почему бы и нет? Но богатые темнокожие подростки? Это настолько невероятно, что должно быть распознано как «грязная информация» и удалено из вашей системы! Паттерн, который при этом возникает в разделении сигнала от шума, не слишком отличается от политического фильтра Рансьера для определения гражданства, рациональности и привилегий. Благосостоятельные темнокожие подростки — это такая же бессмыслица, как разговаривающие рабы и женщины в греческом полисе.

С другой стороны, грязная информация — это что-то вроде кэша тайного отказа; она выражает отказ быть подсчитанной и измеренной:

Исследование, проведенное компанией Verve среди 2,400 жителей Великобритании, обнаружило, что 60% респондентов намеренно предоставляют неверную информацию, когда заполняют личные данные онлайн. Практически четверть (23%) опрошенных утверждают, что иногда они указывают, например, неверную дату рождения. Тогда как 9% сказали, что делают это постоянного, и 5% — всегда. [10]

«Грязная информация» — это место, где аккумулируются все наши отказы заполнять непрекращающийся натиск онлайн-форм. Все лгут постоянно, при любой удобной возможности или, по крайне мере, срезают углы. Неудивительно, что «наигрязнейшая» область сбора данных — это сектор здоровья, особенно в США. Возникает чувство, что у работников медицины так же мало энтузиазма в заполнении форм в системе, которая спроектирована, чтобы их заменить, как у клерков — работать на корпорации, которые заспамят их в ответ.

В своей книге «Утопия Правил» Дэвид Грэбер дает трогательный пример принудительного извлечения информации. После того, как его мать пережила инфаркт, ему прошлось пройти через суровое испытание подачи на программу медицинской помощи для нее:

Мне пришлось потратить примерно месяц… чтобы разобраться с многочисленными последствиями того, что какой-то клерк в нью-йоркском отделении дорожной инспекции написал мое имя как «Даид», не считая клерка Verizon, который написал мою фамилию как «Грюбер». Бюрократия — непонятно в виду каких исторических причин — организована таким образом, чтобы гарантировать, что значительная часть акторов не сможет выполнить свои задачи так, как ожидалось. [11]

Грэбер называет это примером утопического мышления. В основе бюрократии лежит утопическое мышление, так как она предполагает презумцию человеческого совершенства. Мать Грэбера умерла прежде, чем была принята в программу.

Бесконечный труд заполнения абсолютно бесполезных анкет — это новый вид работы по дому в том смысле, что он не считается за труд вовсе, и предполагается, что он должен быть выполнен «добровольно» или так называемыми малооплачиваемыми собирателями данных. [12]

Все кажущиеся быстрыми и невидимыми действия алгоритмов, их элегантная оптимизация, их распознавание паттернов и аномалий — все это основано на бесконечном и крайне бессмысленным труде собирания путаной информации.

Грязные данные — это просто реальные данные в том смысле, что они выступают документом борьбы реальных людей с бюрократией, которая эксплуатирует неравномерное распределение и реализацию цифровых технологий. Представьте ситуацию в LaGeSo (Департамент здоровья и социальных дел) в Берлине, где беженцы рискуют своим здоровьем каждый день, выстаивая очереди перед дверью офиса часами или днями только затем, чтобы их данные были зарегистрированы и они могли получить доступ к ресурсам, которые им полагаются (например, деньгам, чтобы купить еду).

Этих людей рассматривают как аномалию, ведь они не только имели дерзость приехать, но также ожидают уважения к своим правам. Похожий алгоритм действует и на работе: люди просто заглушены. Они не могут даже требовать что-то. Их мнение не берут в счет.

С другой стороны, обещают, что технологии смогут разделять разные категории беженцев. Watson Al system от IBM — это экспериментальная программа, которая потенциально может выявлять террористов, выдающих себя за беженцев:

IBM надеялись показать, что i2 EIA может отделять овец от волков: безобидные массы ищущих приюта от тех нескольких, кто может быть связан с джихадом или может просто врать по поводу своей идентичности…

IBM создали гипотетический сценарий, совмещая несколько источников информации, чтобы составить список потенциально опасных беженцев. Возможно, самым важным источником информации был список жертв конфликтов, почерпнутый из прессы в открытом доступе. Некоторые материалы были почерпнуты из Dark Web — данные, имеющие отношение к черному рынку паспортов; IBM уверждают, что анонимизировали и скрыли идентифицируемую информацию…

Эндрю Борин говорит, что машина может предоставить вероятность, с которой гипотетический искатель приюта является или не является тем, за кого он себя выдает, и она может делать это достаточно быстро, чтобы таможенник или полицейский смогли вовремя отреагировать. [13]

Перекрестные отсылки к неофицальным источникам, включая ресурсы dark web, используются, чтобы создать «рейтинг» вероятности, с которой беженец может быть террористом. Надежда на то, что будет выявлен паттерн, появляющийся во всех базах данных, однако никого не волнует, будет ли он соответствовать эмпирической реальности или нет. Этот пример — лишь небольшая частичка более обширной категории «рейтингов»: кредитные рейтинги, рейтинги академической успеваемости, рейтинги взаимодействия на онлайн форумах, которые классифицируют людей согласно финансовым сделкам, поведению онлайн, данным покупок и другим источникам. Многообразие поступающих данных сводят к одной цифре — супер паттерну, — который может быть рейтингом «угрозы» или «социальной благонадежности», как, например, запланированный китайским правительством рейтинг каждого жителя в следующем десятилетии (На 01.09.2018 китайская «система социального рейтинга» уже введена в некоторых провинциях Китая — прим.пер.). Но параметры поступающих данных далеки от того, чтобы быть прозрачными и проверяемыми. Конечно, все невероятно желают распознавать приспешников Даеш (запрещенная на территории РФ организация), скрывающихся под видом беженцев, однако похожая система имеет слишком тревожащие недостатки.

Программа NSA SKYNET была натренирована разыскивать террористов, используя метаданные телефонных звонков. Но эксперты критиковали данную методологию: «Существует слишком мало “известных” террористов, на которых можно было бы натренировать и протестировать данную модель», — объясняет на портале Ars Technica Патрик Бол, «ученый по данным» и управляющий группы «Анализа данных в сфере Прав Человека». «Если они используют те же записи, чтобы натренировать модель и чтобы протестировать, то их оценка соответствия — полная чушь». [14]

Группа «Анализа данных в сфере Прав Человека» подсчитала, что практически 99,000 пакистанцев могли быть приняты SKYNET за террористов, — целое поле статистической ошибки, которая могла иметь смертельные последствия, учитывая тот факт, что США ведет дронную войну против подозреваемых боевиков, и 2500-4000 человек было убито с 2004: «В последующие годы, тысячи невинных людей в Пакистане могли быть идентифицированы как террористы этим псевдонаучным алгоритомом, что могло повлечь за собой их безвременную кончину». [15]

Следует подчеркнуть, что операции SKYNET не могут быть объективно оценены, потому что неизвестно, как результаты ее работы были использованы. Точно можно сказать, что эта программа не была единственным фактором в определении целей для дронов. Но пример SKYNET показывает, что информация, извлеченная из оценивания корреляций и возможностей, — не то же самое, что реальный факт. Она определяется входными данными, которые использует программное обеспечение, а также параметрами фильтрования, нахождения соответствий и «распознавания». Тут можно применить старую инженерную мудрость «crap in — crap out», которая подчеркивает невозможность доверять правильности вводных данных. Во всех этих случаях, какими бы разными они не казались с технической, географической и этической точек зрения, были использованы некоторые вариации распознавания паттернов, чтобы классифицировать группы людей согласно политическим и социальным параметрам. Иногда это мы просто-напросто пытаемся избежать регистрирования беженцев. Но иногда сюда вовлечено гораздо больше всякого сомнительного математического колдовства. Многие методы, которые в этом задействованы, — непрозрачные, частично пристрастные, ограниченные и, как указывает один эксперт, «смехотворно оптимистичные». [16]

Тарелка спагетти с фрикадельками возвращает наш взгляд, вежливость гугл инцепционизма. Источник: Mary-Ann Russon, “Google DeepDream robot: 10 weirdest images produced by AI ‘inceptionism’ and users online,” International Business Times, July 6, 2015.
Тарелка спагетти с фрикадельками возвращает наш взгляд, вежливость гугл инцепционизма. Источник: Mary-Ann Russon, “Google DeepDream robot: 10 weirdest images produced by AI ‘inceptionism’ and users online,” International Business Times, July 6, 2015.

Корпоративный Анимизм

Как распознать что-то в абсолютном шуме? Удивительный визуальный пример чистой и сознательной апофении был недавно продемонстрирован исследовательскими лабораториями Google:

Мы тренируем обучаем нейронную сеть, показывая ей миллионы тренировочных примеров и постепенно приспосабливая параметры сети, пока она не выдаст ту классификацию, что мы хотим. Нейронная сеть обычно состоит из 10-20 слоев искусственных нейронов. Каждое изображение скармливается в слой «ввода», который затем взаимодействует со следующим слоем, пока, наконец, не достигает слоя «вывода». [17]

Нейронные сети были натренированы различать углы, формы, некоторые объекты и животных, а затем были применены к чистому шуму. Закончилось все тем, что они начали «распознавать» кашу из бестелесных глаз, окрашенных в цвета радуги, в большинстве своем без зрачков, без остановки наблюдающих за аудиторией пронзительной поверхностью сознательной и избыточной паттерн-идентификации.

CGI иглоукалывание. Face-Robot, анимационная система, которая обещает эффективно схватывать в движении актерское лицо с помощью 32 точек.
CGI иглоукалывание. Face-Robot, анимационная система, которая обещает эффективно схватывать в движении актерское лицо с помощью 32 точек.

Разработчики Google называют акт создания паттерна из шума «глубоким сновидением». Однако эти объекты далеки от того, чтобы быть просто галлюцинациями. Если это сновидения, то эти сновидения могут быть интерпретированы как скопления и смещения современных технологических расположений. Они обнажают сетевые операции процесса компьютерного создания изображений, определенные предустановки машинного видения, его программную идеологию и предпочтения.

Один из путей визуализировать происходящее, это попросить сеть усилить вводимое изображение так, чтобы выявить определенную интерпретацию. Допустим, вы хотите знать, из какого изображения получится «Банан». Начните с изображения, полного шума, а затем преобразуйте изображение так, чтобы получилось то, что нейронная сеть считает бананом. Сама по себе такая техника работает не очень хорошо. Однако она работает лучше, если мы укажем некие ограничительные параметры вроде того, что изображение должно иметь статистические данные, похожие на те, что у естественных изображений, например соседствующие пиксели должны быть соотнесены. [18]

Подобно гению, инцепционизму удается визуализировать бессознательное полупрофессиональных сетей: изображения, исследующие пользователей, постоянно регистрирующие движения их глаз, поведение, предпочтения, эстетически дрифтующие между работами Хундервассера и модерновыми фризами. «Оптическое бессознательное» Вальтера Беньямина обновляется, «прокачивается» бессознательным гаданием компьютерных изображений. [19]

«Распознавая» вещи и паттерны, которые не были изначально даны, инцепционные нейронные сети, в конце концов, регистрируют новую тотальность в эстетике и социальных взаимоотношениях. Применяются предустановки и стереотипы независимо от того, имеют ли они место быть на самом деле или нет: «Результаты очень интригуют — даже относительно простая нейронная сеть может быть использована, чтобы избыточно интерпретировать изображение подобно тому, как мы детьми наслаждались вглядыванием в облака и интерпретацией случайных форм».

Однако, инцепционизм — это не просто цифровая галлюцинация. Это документ эпохи, которая тренирует смартфоны распознавать котят, тем самым программируя действительно пугающий и непонятный язык «кавайности» в средства производства.

Он демонстрирует версию корпоративного анимизма, где товары — это не только фетиши, они превращаются в франшизные химеры.

Тем не менее это очень реалистичные репрезентации. Согласно Джорджу Лукасу, «классический реализм» создает «типичных персонажей», так как они репрезентируют объективный социальный (и в нашем случае технический) порядок нашего времени. [20]

Инцепционизм делает не только это. Он дает этому порядку лицо — а если быть точнее, то бесчисленное количество глаз. Существо, которое пялится на вас из тарелки спагетти с фрикадельками — это не земноводная гончая. Это вездесущее наблюдение сетевого производства изображений, вид подражающего интеллекта, наблюдающего за вами в форме ланча, который вы через секунду запостите в инстаграм, если он не нападет первым, конечно. Представьте себе мир порабощенных объектов, с укором исследующих вас. Ваша машина, ваша яхта, ваша коллекция картин наблюдает за вами с мрачным и крайне отчаявшимся выражением. «Ты можешь владеть нами», — как будто говорят они. «Но мы настучим на тебя. И угадай, какое существо мы собираемся распознать в тебе!» [21]

Доселе неизвестные архитектурные монументы были найдены в сентябре 2015 года группой «Скрытые ландшафты Стоунхенджа». Находки включают информацию о крупнейшем в мире «супер хендже» и включают в себя ритуальные постройки — такие, как погребальница, изображенная в виде сверху в этой 3D реконструкции. Источник: LBI ArchPro, Joachim Brandtner
Доселе неизвестные архитектурные монументы были найдены в сентябре 2015 года группой «Скрытые ландшафты Стоунхенджа». Находки включают информацию о крупнейшем в мире «супер хендже» и включают в себя ритуальные постройки — такие, как погребальница, изображенная в виде сверху в этой 3D реконструкции. Источник: LBI ArchPro, Joachim Brandtner

Данные Неолита

Что же нам делать с автоматизированной апофенией? [22] Можно ли сказать, что машинное восприятие вступило в новую фазу магического мышления? Вот что значит сегодня продвижение товаров — их галлюцинирование? Более точно будет сказать, что это человечество вступило в еще одну новую фазу магического мышления. Запас слов, извлеченный из разделения сигнала и шума, удивительно пасторальный: «собирание урожая» данных, «копание» данных, «добыча данных» свидетельствуют о том, что мы как будто переживаем еще одну масштабную неолитическую революцию [23] со своими магическими формулами.

Различные виды сельскохозяйственных и горнорудных технологий, которые развивались в эпоху неолита, переизобретены, чтобы применяться к информации. Камни и руды прошлого заменены силиконом и редкими минералами; парадигма Майнкрафта описывает процесс трансформации минералов в элементы информационной архитектуры. [24]

Распознавание паттернов также было важной частью технологий неолита. Оно маркировало линию перехода от магического к более эмпирическим модусам мышления. Развитие календаря посредством наблюдения закономерностей во времени позволило более эффективно планировать занятия по обработке и орошению земли. Склады зерна создали идею собственности. Этот период также дал толчок институтам религии, бюрократии и управленческим техникам, включая право и описи. Все эти нововведения также повлияли на общество: короли-фермеры и рабовладельцы заменили охотников и собирателей. Революция эпохи неолита имела не только технические, но и огромные социальные последствия.

Сегодня выражения жизни, отраженные в отчетах и информационных следах, становятся взращиваемым, заготавливаемым, выкапываемым ресурсом, управляемым информационной биополитикой. И если вы сомневаетесь, что мы вступили в новую эру магического мышления, просто посмотрите на учебники NSA для работы со взломанным дроном. Как вы можете заметить, вам нужно заколдовывать файлы при помощи волшебной палочки (Image Magick — это бесплатный конвертер изображений).

Предположительно новые виды управления, появляющиеся из этих технологий, выглядят наполовину архаично и наполовину суеверно. Какие корпоративные или государственные организации основаны на хранении информации, расшифровке изображений, высокочастотном трейдинге (Основная форма алгоритмической торговли на финансовых рынках, в которой современное оборудование и алгоритмы используются для быстрой торговли ценными бумагами — прим.пер.) и игре ИГИЛ (запрещенная на территории РФ организация) на бирже? Кто выступает современным эквивалентом королям-фермерам и рабовладельцам, и как были радикализованы социальные иерархии через такие разные явления, как технологическая джентрификация (Реконструкция пришедших в упадок городских кварталов с помощью притока более состоятельных жителей, в результате джентрификации происходит повышение среднего уровня доходов населения района за счёт замены жителей с низкими доходами на более состоятельных — прим.пер.) и игрофикация джихада? Как мир распознавания паттернов и гадания на данных соотносится с современной мешаниной олигархий, платного троллинга, наемных хакеров и воров больших данных, поддерживающих и делающих возможными управляющих-ботов, кликбейты Халифата и полиморфные прокси войны? Государство, находящееся в эпохе Глубокого Разума, Глубокого Обучения, и Глубокого Сновидения, — это Глубокое Государство? Такое, в котором нет обращения против алгоритмических декретов и предсказаний?

Может ли это изображение репрезентировать нео-неолит? Источник: Mary-Ann Russon, “Google DeepDream robot: 10 weirdest images produced by AI ‘inceptionism’ and users online,” International Business Times, July 6, 2015
Может ли это изображение репрезентировать нео-неолит? Источник: Mary-Ann Russon, “Google DeepDream robot: 10 weirdest images produced by AI ‘inceptionism’ and users online,” International Business Times, July 6, 2015

Однако есть еще одна разница между оригинальным и современным типом «неолита», и она касается распознавания паттерна. В древней астрономии созвездия представляли как проекции форм животных на небо. После того, как космические ритмы и траектории были записаны на глиняных табличках, начали проявляться паттерны движения. Для дополнительной ориентации некоторые группы звезд были соотнесены с животными и небесными созданиями. Однако прогресс в астрономии и математике случился не потому, что люди продолжали верить, что там в космосе находятся животные и боги, а наоборот, потому что они приняли идею, что созвездия выражали физическую логику. Паттерны были проекциями, не реальностью. Тогда как сегодняшние статистики и другие эксперты рутинно признают, что их находки — это по большому счету вероятностные проекции, политики всех сортов традиционно игнорируют эту информацию. На практике ты совпадаешь с созвездиями данных, которые ты проецируешь. Различные социальные рейтинги (кредитные рейтинги, академические рейтинги, рейтинги угрозы) вместе с коммерческим и военным восприятием паттернов — все это влияет на жизни настоящих людей, трансформируя и радикализируя социальные иерархии ранжированием, фильтрованием и классификацией.

Гештальт Реализм

Но давайте предположим, что мы действительно имеем дело с проекциями. Как только мы принимаем, что паттерны, добытые из машинных органов восприятия не являются тем же самым, что реальность, информация становится доступной с определенной степенью достоверности.

Давайте вернемся к Амани аль-Назазре — женщине, ослепленной воздушной атакой на Сектор Газа. Мы знаем: абстрактные изображения, записанные при перехвате дронов IDF британскими шпионами, не показывают воздушную атаку на Сектор Газа, которая ослепила ее в 2012. Данные не сходятся. Нет никаких свидетельств в архиве Сноудена. Не существует никаких изображений этого налета — насколько я знаю, по крайней мере. Все, что мы знаем, это то, что она сказала «Human Rights Watch» (Неправительственная организация, осуществляющая мониторинг, расследование и документирование нарушений прав человека более чем в 70 странах мира со штаб-квартирой в США. — прим.пер.). Вот что она сказала: «Я не могу видеть — со времен бомбардировки, я могу видеть только тени».

Существует еще один способ дешифровать это изображение. Его легко увидеть каждому. Мы видим, что Амани не может видеть.

В этом случае шум должен быть «документом» того, что она видит сейчас: «тени».

Документ ли это оптического бессознательного дронов? Их сомнительных методов распознавания паттернов? Если это так, то существует ли вообще способ расшифровать «тени», с которыми осталась Амани?

Примечания:

[1] Ссылка: https://www.documentcloud.org/documents/2699846-Anarchist-Training-mod5-Redacted-Compat.html

[2] “The SIGINT World Is Flat,” Signal v. Noise column, December 22, 2011.

[3] Michael Sontheimer, “SPIEGEL Interview with Julian Assange: ‘We Are Drowning in Material,’” Spiegel Online, July 20, 2015

[4] Ibid

[5] Ссылка: https://en.wikipedia.org/wiki/Apophenia

[6] Benjamin H. Bratton, “Some Trace Effects of the Post-Anthropocene: On Accelerationist Geopolitical Aesthetics,” e-flux journal 46 (June 2013)

[7] “Israel: Gaza Airstrikes Violated Laws of War,” hrw.org, February 12, 2013.

[8] Jacques Rancière, “Ten Theses on Politics.” Theory & Event, Vol. 5, No. 3 (2001)

[9] Verne Kopytoff, “Big data’s dirty problem,” Fortune, June 30, 2014

[10] Larisa Bedgood, “A Halloween Special: Tales from the Dirty Data Crypt,” relevategroup.com, October 30 2015

[11] David Graeber, The Utopia of Rules: On Technology, Stupidity and the Secret Joys of Bureaucracy (Brooklyn: Melville House, 2015), 48.

[12] Ссылка: https://www.nytimes.com/2014/08/18/technology/for-big-data-scientists-hurdle-to-insights-is-janitor-work.html?_r=0

[13] Patrick Tucker, “Refugee or Terrorist? IBM Thinks Its Software Has the Answer,” Defense One, January 27, 2016

[14] Christian Grothoff and J.M. Porup, “The NSA’s SKYNET program may be killing thousands of innocent people,” Ars Technica, February 16, 2016, italics in original

[15] Ibid

[16] See Michael V. Hayden, “To Keep America Safe, Embrace Drone Warfare,” New York Times, February 19, 2016.

[17] “Inceptionism: Going Deeper into Neural Networks,” Google Research Blog, June 17, 2015

[18] Ibid

[19] Ссылка:

https://monoskop.org/images/7/79/Benjamin_Walter_1931_1972_A_Short_History_of_Photography.pdf

[20] Farhad B. Idris, “Realism,”in Encyclopedia of Literature and Politics: Censorship, Revolution, and Writing, Volume II: H–R, ed. M. Keith Booker (Westport, CT: Greenwood), 601.

[21] Апофения — это новый род паранойи? В 1989, Фредрик Джеймисон объявил паранойю одним из крупнейших культурных шаблонов постмодернисткого нарратива, проникшим в политическое бессознательное. Согласно Джеймисону, тотальность социальных взаимоотношений не могла быть культурно репрезентирована внутри воображения общества времен Холодной Войны — и пробелы были восполнены маниями, догадками или сюжетами, в которых фигурировала масонская ложа. Но после дела Сноудена, одна вещь стала ясна: все теории заговоров, на самом деле, были правдивы. Хуже, реальность даже превзошла их. Паранойя — это тревога, причиной которой является отсутствие информации, связей между кусками информации и якобы укрываемые свидетельства. Сегодня актуальна противоположность этому. Тотальность Джеймисона приняла другую форму. Она не отсутствует. Наоборот: она неистовствует. Тотальность — или может быть сходная версия этого — вернулась, как отмщение, в форме океанических «тонн данных». Социальная тотальность дистиллирована до вида контактных данных, граф взаимосвязей, или карт распространения инфекций. Тотальность — это цунами спама, зверство порно и рукопожатия гаджетами. Эта подсчитываемая версия социальных отношений так же охотно применяется полицией, как и контентной рекламой для персонализированных кликбейтов, отслеживания траектории движения глаз и монетизирования аффекта. Сегодня, тотальность является как запись, которая включает твой рейтинг «трахальности» на равне с рейтингом доступности. Он каталогизирует связи, ассоциации, зависимости: он конвернирует паттерны жизни в смерть воздушной атаки.

[22] Christian Szegedy et. al, “Intriguing properties of neural networks,” arxiv.org, February 19, 2014. Anh Nguyen, Jason Yosinski, and Jeff Clune, “Deep Neural Networks are Easily Fooled: High Confidence Predictions for Unrecognizable Images,” cv-foundation.org, 2015

[23] “Do We Need a Bigger SIGINT Truck?” Signal v. Noise column, January 23, 2012.

[24] See Jussi Parikka, “The Geology of Media,” The Atlantic, October 11, 2013


Все права принадлежат Хито Штейерль и журналу e-flux. Сноски и изображения взяты из оригинальной статьи.

Author

Полина Зинзивер
ALEKSEY KHOROSHEV
Дмитрий Ольгин
+14
Comment
Share

Building solidarity beyond borders. Everybody can contribute

Syg.ma is a community-run multilingual media platform and translocal archive.
Since 2014, researchers, artists, collectives, and cultural institutions have been publishing their work here

About