Внутренняя дискриминация микротаргетинга

Lyoubov Touinova
01:45, 06 августа 2021
Добавить в закладкиДобавить в коллекцию

Микротаргетинг был в новостях, с призывами запретить эту практику как в США, так и в Европе. Критики ссылаются на возможность дискриминации, а также на распространение вредоносного или вводящего в заблуждение контента. Дебаты были активными, но требуется больше ясности, чтобы поддержать тонкое и тщательное рассмотрение.

АВТОР:
Джесси МакКроски
ТЕКСТ ОПУБЛИКОВАН:
2021-06-24

Поясним, что есть два уровня таргетинга для рекламы на онлайн-платформах. Это упрощение, но в целом:

Рекламодатель выбирает «аудиторию», используя явные параметры таргетинга: демографические данные, интересы, местоположение и т. Д.

Платформа, показывающая рекламу, затем покажет ее отдельным пользователям в аудитории; однако он будет использовать системы машинного обучения для выбора тех отдельных пользователей, которые, по его прогнозам, с наибольшей вероятностью нажмут на объявление.

Первый уровень нацеливания может быть ограничен довольно крупными параметрами нацеливания. Однако второй уровень обычно будет использовать все данные, доступные платформе — подробный профиль каждого пользователя на основе лайков, истории просмотров и любых других данных, которые платформа сумела захватить.

Микротаргетинг — это второй уровень, на котором реклама показывается тем, кто с большей вероятностью нажмет на нее. Нерекламный контент (так называемый «органический контент») также обычно имеет микротаргетинг — например, Facebook будет показывать сообщения от ваших друзей, которые вам, скорее всего, понравятся, а YouTube будет рекомендовать видео, которые, по его прогнозам, вы с большей вероятностью будете смотреть.

В чем проблема? Что такое дискриминация?

Я уже писал ранее о том, как микротаргетинг может усиливать вредоносный или вводящий в заблуждение контент или манипулировать людьми, заставляя их нездоровое использование цифровых продуктов. Здесь мы сосредотачиваемся на дискриминации. В целом, дискриминация может означать просто отношение к одним людям иначе, чем к другим, но мы увидим, что микротаргетинг может также дискриминировать во вредном смысле: Amnesty International пишет, что «Дискриминация возникает, когда человек не может пользоваться своими правами человека или другими законными правами. права наравне с другими из–за неоправданного различия в политике, законодательстве или обращении ».

Микротаргетинг (или любой вид таргетинга) по определению является дискриминирующим в широком смысле: практика включает в себя различное отношение к разным людям в отношении контента, который вы им представляете. Само по себе это не проблема, но пагубная дискриминация действительно имеет место во многих отношениях. European Digital Rights (EDRi) опубликовала отличный отчет, посвященный этим вопросам, но вкратце микротаргетинг может вызвать вредную дискриминацию через:

Таргетинг, ведущий к несправедливому исключению. Например, снижение вероятности показа объявлений о работе или жилье определенным группам населения. В одном примере расследование ProPublica показало, что Facebook фактически разрешил рекламодателям указывать расовую дискриминацию, но это также может происходить как непреднамеренное последствие микротаргетинга.

Вредоносный таргетинг, например реклама, раскрывающая интересы или характеристики человека, которые он не раскрыл. Например, человек может получить рекламу лекарства, связанного с частным заболеванием, при использовании общего компьютера.

Микротаргетинг является дискриминационным по своей сути (закрытие обширных личных данных)

Может показаться, что таких проблем можно избежать, просто исключив такие важные характеристики, как раса, сексуальная ориентация и состояние здоровья, из данных таргетинга. К сожалению, статистическая сила корреляций или косвенных переменных делает это неэффективным.

Было показано, что данные платформы, в том числе отметки «Нравится» в Facebook и отметки о местоположении, в высокой степени позволяют прогнозировать конфиденциальные характеристики пользователей. В одном исследовании выяснилось, что лайки в Facebook в высокой степени предсказывают сексуальную ориентацию, политическую ориентацию и принадлежность к определенным этническим группам. Другой показал, что данные о регистрации на рейс в высокой степени позволяют прогнозировать пол, возраст, образование и семейное положение. Это говорит о том, что когда контент является таргетированным на основе данных платформы, он также во многих случаях одновременно и неявно нацелен на защищенные характеристики, такие как инвалидность, изменение пола, беременность, раса, религия или убеждения, а также сексуальная ориентация.

При таргетинге с использованием достаточно богатых данных чрезвычайно сложно предотвратить дискриминацию. Как описано в исследовании Университета Аризоны, сбор самих защищенных характеристик обычно необходим для предотвращения дискриминации на их основе.

Фактически, любой микротаргетинг, основанный на обширных данных, подобных тем, которые сегодня можно найти на крупных цифровых платформах, всегда будет дискриминационным (до некоторой степени) по всем возможным чувствительным характеристикам. Можно предотвратить дискриминацию определенных характеристик, если будут собраны точные данные об этой характеристике от всех пользователей, но даже в этом случае дискриминация будет продолжаться для бесконечного диапазона других чувствительных характеристик.

Вывод

Микротаргетинг с обширными данными по своей сути является дискриминационным. В своем отчете EDRi призывает запретить «методы нацеливания, которые по своей природе непрозрачны». Они пишут:

Как показал этот отчет, некоторые методы таргетинга по своей сути непрозрачны, а это означает, что рекламодателям часто невозможно избежать дискриминации, даже если они намеренно решают настроить таргетинг своих объявлений на основе нейтральных критериев. Оптимизация рекламы попадает в эту категорию, как и инструменты таргетинга, такие как похожие аудитории…

Более того, обязательные юридические требования не могут ограничиваться запрещенной дискриминацией. Как показано в этом отчете, существующие определения запрещенной дискриминации не охватывают все случаи вредоносной автоматической дискриминации со стороны систем искусственного интеллекта, например, в рекламе.

Призыв к запрету непрозрачного микротаргетинга — это не совсем то же самое, что запрет микротаргетинга в целом, но с практической точки зрения все доминирующие системы микротаргетинга, действующие сегодня, непрозрачны. Если мы не хотим, чтобы таргетинг рекламы и органического контента был дискриминационным, нам нужно отказаться от микротаргетинга, как мы его понимаем сегодня.

Необходимо тщательно обдумать, чтобы понять, в каких обстоятельствах микротаргетинг приносит социальный вред и пользу. Возможно, при некоторых обстоятельствах будет полезно разрешить микротаргетинг некоторых видов контента, но не в других случаях.


Подпишитесь на наш канал в Telegram, чтобы читать лучшие материалы платформы и быть в курсе всего, что происходит на сигме.
Добавить в закладки

Автор

File