Microsoft объявила войну дипфейкам на фоне выборов Президента США

Microsoft представила новый инструмент для борьбы с дипфейками в предверии президентских выборов в США. "Microsoft Video Authenticator" анализирует видеоролики и отдельные изображения и присуждает каждому "рейтинг достоверности", определяя, подвергались ли исходные данные изменениям.

Дипфейки — одна из главных киберугроз современности. Благодаря визуальной достоверности фейковые видео, созданные нейросетью, не раз становились причиной общественных скандалов. Чем активнее социальная и политическая среда, тем большей угрозой становятся дипфейки. Выборы Президента США 3 ноября 2020 года могут стать идеальной площадкой для распространения фейкового контента, тем более что подобные прецеденты уже были — достаточно вспомнить легендарное видео, где Барак Обама обзывает Дональда Трампа, или ролик с "пьяным" сенатором Нэнси Пелоси.

Разработка Microsoft создана для того, чтоб предотвратить массовое распространение подобной информации. Алгоритм способен покадрово анализировать видеоролик и находить признаки дипфейка, невидимые человеческому глазу. Например, программа различит мельчайшие полутона, угасания и цветовые переходы, сигнализирующие о том, что в процесс вмешалась нейросеть.

"Мы уверены, что методики синтезирования нового медиаконтента будет усложняться и становиться все более изощренными. Агрегируя все данные, которые искуственный интеллект получает в ходе детектирования видео, разработчики смогут получить действенный инструмент, который не позволит дипфейкам обходить существующие методы верофикации", — отмечается в блоге компании.

Microsoft также продвигает технологию, которая позволит отслеживать манипулятивные данные и, напротив, подтверждать аутентичный контент. Речь идет о двухкомпонентном алгоритме, встроенном в облачную платформу Microsoft Azure.

Система защиты содержимого, встроенная в Azure, позволяет владельцам контента добавлять к мультимедийным данным хеш-коды. Коды могут использоваться как метаданные, содержащие информацию об авторе контента. С помощью специальных расширений для браузера пользователи могут проверять метаданные хеш-кодов, соотносить их с информацией об авторе публикаций и, таким образом, проверять достоверность контента.

По данным Microsoft, технологию в тестовом режиме уже используют BBC, New York Times, Radio-Canada и другие крупные медиакомпании.


Источник: https://www.independent.co.uk/life-style/gadgets-and-tech/news/us-election-2020-deepfake-tool-microsoft-a9702821.html