Борьба с дипфэйками

Lyoubov Touinova
02:31, 16 апреля 2021
Добавить в закладкиДобавить в коллекцию

перевод статьи компании Майкрософт

Новые шаги в борьбе с дезинформацией

1 сен 2020 | Том Берт, корпоративный вице-президент по безопасности и доверию клиентов, и Эрик Хорвиц, главный научный директор

Поделиться в Facebook (открывается в новом окне)Поделиться в LinkedIn (открывается в новом окне)Поделиться в Twitter (открывается в новом окне)Пример идентификации дипфейка

Сегодня мы анонсируем две новые технологии для борьбы с дезинформацией, новую работу по информированию общественности о проблеме и партнерские отношения, которые помогут быстро продвинуть эти технологии и образовательные мероприятия.

Нет никаких сомнений в том, что дезинформация широко распространена. В исследовании, которое мы поддержали профессора Джейкоба Шапиро из Принстона и обновленного в этом месяце, было каталогизировано 96 отдельных кампаний за иностранное влияние, нацеленных на 30 стран в период с 2013 по 2019 год. Эти кампании, проводимые в социальных сетях, были направлены на очернение известных людей, убеждение общественности или поляризацию дебатов. В то время как 26% ​​этих кампаний были нацелены на США, другие целевые страны включают Армению, Австралию, Бразилию, Канаду, Францию, Германию, Нидерланды, Польшу, Саудовскую Аравию, Южную Африку, Тайвань, Украину, Великобританию и Йемен. Примерно 93% этих кампаний включали создание оригинального контента, 86% усиливали уже существующий контент и 74% искажали объективно проверяемые факты. Недавние отчеты также показывают, что дезинформация распространялась оПандемия COVID-19 , приводящая к смерти и госпитализации людей, ищущих предполагаемые лекарства, которые на самом деле опасны.

То, что мы объявляем сегодня, является важной частью программы Microsoft Defending Democracy Program, которая, помимо борьбы с дезинформацией, помогает защитить голосование с помощью ElectionGuard и помогает защитить кампании и других участников демократического процесса с помощью AccountGuard , Microsoft 365 для кампаний и выборов. Советники по безопасности. Это также часть более широкого внимания к защите и продвижению журналистики, о чем Брэд Смит и Кэрол Энн Браун обсуждали в своих Десяти основных вопросах технической политики на 2020-е годы.

Новые технологии

Дезинформация принимает разные формы, и никакая отдельная технология не решит задачу помочь людям расшифровать то, что является правдой и точным. В Microsoft мы работаем над двумя отдельными технологиями для решения различных аспектов проблемы.

Одна из основных проблем — это дипфейки или синтетические носители, которые представляют собой фотографии, видео или аудиофайлы, которые искусственный интеллект (ИИ) манипулирует трудно обнаруживаемыми способами. Может показаться, что они заставляют людей говорить то, чего они не делали, или быть тем, чем они не были, и тот факт, что они созданы с помощью ИИ, который может продолжать учиться, делает неизбежным их превосходство над обычными технологиями обнаружения. Однако в краткосрочной перспективе, например, на предстоящих выборах в США, передовые технологии обнаружения могут стать полезным инструментом, который поможет проницательным пользователям выявлять дипфейки.

Сегодня мы представляем Microsoft Video Authenticator. Video Authenticator может анализировать неподвижное фото или видео, чтобы определить процентную вероятность или оценку достоверности того, что медиафайлы были искусственно изменены. В случае видео он может предоставлять этот процент в реальном времени для каждого кадра во время воспроизведения видео. Он работает, обнаруживая границу наложения дипфейка и тонких элементов выцветания или оттенков серого, которые могут быть не обнаружены человеческим глазом.

Эта технология была первоначально разработана Microsoft Research в сотрудничестве с Microsoft Responsible AI team и Microsoft AI, Ethics and Effects in Engineering and Research (AETHER) Committee, который является консультативным советом в Microsoft, который помогает обеспечить разработку и внедрение новых технологий. ответственно. Video Authenticator был создан с использованием общедоступного набора данных от Face Forensic ++ и был протестирован на наборе данных DeepFake Detection Challenge , которые являются ведущими моделями для обучения и тестирования технологий обнаружения глубоких подделок.

Мы ожидаем, что методы создания синтетических сред будут продолжать совершенствоваться. Поскольку все методы обнаружения ИИ имеют частоту отказов, мы должны понимать и быть готовыми реагировать на дипфейки, которые проскальзывают через методы обнаружения. Таким образом, в более долгосрочной перспективе мы должны искать более надежные методы для поддержания и подтверждения подлинности новостных статей и других средств массовой информации. Сегодня существует несколько инструментов, которые помогут убедить читателей в том, что средства массовой информации, которые они видят в Интернете, поступают из надежного источника и что они не были изменены.

Сегодня мы также анонсируем новую технологию, которая может как обнаруживать манипулируемый контент, так и убеждать людей в подлинности просматриваемых медиафайлов. Эта технология состоит из двух компонентов. Первый — это инструмент, встроенный в Microsoft Azure, который позволяет производителю контента добавлять цифровые хэши и сертификаты в часть контента. Затем хэши и сертификаты сохраняются с контентом в качестве метаданных, где бы он ни находился в сети. Второй — это считыватель, который может существовать как расширение браузера или в других формах, который проверяет сертификаты и сопоставляет хэши, позволяя людям с высокой степенью точности узнать, что контент является подлинным и что он не был изменен, а также предоставить подробную информацию о том, кто его создал.

Эта технология была разработана Microsoft Research и Microsoft Azure в партнерстве с Программой защиты демократии. Он станет основой инициативы, недавно объявленной BBC, под названием Project Origin.

Партнерские отношения

Ни одна организация не сможет оказать значимое влияние на борьбу с дезинформацией и вредоносными дипфейками. Мы сделаем все от нас зависящее, чтобы помочь, но характер проблемы требует широкого внедрения нескольких технологий, чтобы образовательные усилия постоянно доходили до потребителей во всем мире и чтобы мы продолжали узнавать больше о проблеме по мере ее развития.

Сегодня мы подчеркиваем партнерские отношения, которые мы развиваем, чтобы помочь этим усилиям.

Во-первых, мы сотрудничаем с AI Foundation, двойной коммерческой и некоммерческой организацией, базирующейся в Сан-Франциско, с миссией донести мощность и защиту ИИ до всех в мире. Благодаря этому партнерству инициатива Reality Defender 2020 (RD2020) AI Foundation сделает Video Authenticator доступным для организаций, участвующих в демократическом процессе, включая новостные агентства и политические кампании. Первоначально Video Authenticator будет доступен только через RD2020, который поможет организациям преодолеть ограничения и этические соображения, присущие любой технологии обнаружения дипфейков. Кампании и журналисты, желающие узнать больше, могут связаться с RD2020 здесь .

Во-вторых, мы установили партнерские отношения с консорциумом медиа-компаний, включая BBC, CBC / Radio-Canada и New York Times, в отношении Project Origin , которые протестируют нашу технологию аутентификации и помогут продвинуть ее в качестве стандарта, который может быть широко принят. Trusted Новости Инициатива , которая включает в себя ряд издателей и социальных медиа — компаний, также согласился заниматься с этой технологией. В предстоящие месяцы мы надеемся расширить работу в этой области до еще большего числа технологических компаний, новостных издателей и компаний, занимающихся социальными сетями.

Медиаграмотности

Мы также сотрудничаем с Вашингтонским университетом (UW), Sensity и USA Today по вопросам медиаграмотности. Повышение медиаграмотности поможет людям отделить дезинформацию от подлинных фактов и управлять рисками, связанными с дипфейками и дешевыми фейками. Практические знания в области СМИ могут позволить нам всем критически относиться к контексту СМИ и стать более заинтересованными гражданами, ценив при этом сатиру и пародию. Хотя не все синтетические медиа плохи, было показано, что даже кратковременное вмешательство с ресурсами по медиаграмотности помогает людям определить их и относиться к ним более осторожно.

глубокая викторина фейков

Сегодня мы запускаем интерактивную викторину для избирателей в Соединенных Штатах, чтобы узнать о синтетических медиа, развить критические навыки медиаграмотности и узнать о влиянии синтетических медиа на демократию. The Spot the Deepfake Quiz — это инструмент медиаграмотности в форме интерактивного опыта, разработанный в сотрудничестве с Центром информированной общественности UW, Sensity и USA Today. Викторина будет распространяться через Интернет и социальные сети, принадлежащие USA Today, Microsoft и Вашингтонскому университету, а также через рекламу в социальных сетях.

Кроме того, в сотрудничестве с Ассоциацией радио и телевидения цифровых новостей , The Trust Project и Центром информирования общественности и ускорения социальной трансформации UW Microsoft поддерживает кампанию по объявлению общественных услуг (PSA), побуждающую людей взять «задумчивую паузу» и проверить чтобы убедиться, что информация поступает от авторитетных новостных организаций, прежде чем делиться ею или продвигать ее в социальных сетях в преддверии предстоящих выборов в США. Кампания PSA поможет людям лучше понять вред, который дезинформация и дезинформация наносит нашей демократии, и важность того, чтобы находить время для выявления, распространения и использования надежной информации. Рекламу будут транслировать радиостанции США в сентябре и октябре.

Наконец, в последние месяцы мы значительно расширили нашу реализацию NewsGuard , которая позволяет людям больше узнавать об онлайн-источнике новостей, прежде чем использовать его контент. NewsGuard управляет командой опытных журналистов, которые оценивают новостные онлайн-сайты на основе девяти критериев журналистской честности, которые они используют для создания «ярлыка питания» и красного / зеленого рейтинга для каждого рейтингового новостного сайта. Люди могут получить доступ к службе NewsGuard, загрузив простое расширение браузера, которое доступно для всех стандартных браузеров. Это бесплатнодля пользователей браузера Microsoft Edge. Важно отметить, что Microsoft не имеет редакционного контроля над рейтингами NewsGuard, а расширение браузера NewsGuard никоим образом не ограничивает доступ к информации. Вместо этого NewsGuard стремится обеспечить большую прозрачность и стимулировать медиаграмотность, предоставляя важную информацию о самом источнике новостей.

Соображения политики

Правительства, компании, некоммерческие организации и другие лица во всем мире должны сыграть решающую роль в борьбе с дезинформацией и вмешательством в выборы в целом. В 2018 году Парижский призыв к доверию и безопасности в киберпространстве собрал многостороннюю группу мировых лидеров, приверженных девяти принципам, которые помогут обеспечить мир и безопасность в Интернете. Один из самых важных из этих принципов — защита избирательных процессов. В мае Microsoft, Альянс за обеспечение демократии и правительство Канады предприняли попытку возглавить глобальную деятельность в соответствии с этим принципом. Мы призываем любую организацию, заинтересованную в участии, присоединиться к Paris Call .

Теги: Azure , COVID-19 , deepfakes , Программа защиты демократии , дезинформация , ElectionGuard , Microsoft AccountGuard , Microsoft Research , newsguard , Project Origin , Video Authenticator

Подпишитесь на наш канал в Telegram, чтобы читать лучшие материалы платформы и быть в курсе всего, что происходит на сигме.
Добавить в закладки

Автор

File