Дипфейки: технология будущего или угроза для реальности

Что такое дипфейк

Дипфейк — аудиовизуальный продукт, который создан с использованием искусственного интеллекта. Название технологии происходит от двух слов: глубокое обучение ИИ (deep learning) и обман (fake). Алгоритм анализирует снимки, голос, звуки и движения, чтобы полностью скопировать человека.

В создании дипфейков участвуют генеративные состязательные сети (GAN). Сеть «G» отвечает за образцы, а сеть «D» отделяет правильные от неправильных. «G» повышает процент ошибок «D», а «D» в противовес учится лучше распознавать неточности. В результате обе сети создают проект, максимально похожий на оригинал.

Первый этап в работе над дипфейком — сбор данных. Потом весь архив материалов переносится в нейросеть, которая учится воспроизводить внешность или голос человека. После тренировки система покадрово накладывает новые образы на исходное видео. Финал — доработка качества картинки, звука, цвета и света.

Читайте также:

От 🙂 до 👻: как смайлики захватили мир дизайна и изменили коммуникацию

Дипфейки особенно распространены:

• в рекламе, шоу-бизнесе и киноиндустрии — для омоложения актеров или возвращения умерших кумиров. А еще — для перевода речи на разные языки. Так, футболист Дэвид Бекхэм стал главным героем ролика об опасности малярии, переведенного на девять языков. ИИ подгонял текст под артикуляцию футболиста.

• мемах, сатирических и политических роликах для социальных сетей. Например, Джим Керри стал Джеком Николсоном в «Сиянии», а королева Елизавета II записала альтернативное новогоднее поздравление для британского канала Channel 4 Entertainment. Это был «укол» в сторону BBC, который, по мнению авторов видео, не всегда разрешает спикеру говорить со зрителями откровенно. 

Польза дипфейков 

Сама технология несет в себе много возможностей — от помощи дизайнерам, фотографам и другим креаторам в развитии их творчества до разнообразия в подходах к обучению школьников и студентов. К тому же технология экономит время и средства — омоложение актера в кадре стоит дешевле работы команды художников по гриму и проходит без участия самого актера. 

Собрали еще несколько примеров, чем полезны дипфейки.

Помощь людям без воображения

Инженеры-исследователи Кейт Глазко и Ивэй Чжэн помогают людям с афантазией увидеть абстрактные образы со своим участием. Они генерируют жизненные ситуации подопечных и вместе с ними репетируют ту или иную реакцию на них. 

Социальные проекты 

Ношение оружия в США — болезненная тема, о которой снимают много социальных видео. В одном из них родители погибшего из-за стрельбы в школе в 2018 году Хоакина Оливера с помощью образа сына призывают к изменениям в сфере оружия и его продажи.

Интерактивное искусство 

В 2019 году ИИ создал дипфейк Сальвадора Дали для его музея во Флориде. Художник рассказывал про свою жизнь и работы, а еще фотографировался с гостями. Это сблизило посетителей с ним и его искусством. Алгоритм проанализировал 6000 фотографий и 145 видео с участием сюрреалиста.

Концентрация студентов и помощь в тренинге

Доцент Цзян Фэй создал себе аниме-версию для онлайн-уроков, потому что заметил, что студентам скучно. Креатив сработал: ученики проявляют инициативу на занятиях и лучше выполняют домашние задания.

Вред дипфейков

Но есть и опасные моменты: мошенники научились работать с дипфейками настолько хорошо, что создают интимные видео с лицами знаменитостей, копируют голоса политиков и CEO компаний. А вслед за этим следуют шантаж, вымогательство и публичное унижение через фальшивый контент. Эксперт Генри Аждер утверждает, что 96% дипфейков в интернете — порнография с женскими образами. 

В 2023 году в суд ушло дело актрисы озвучки Алены Андроновой, которая сотрудничала с одним из российских банков. Ее речь синтезировали и встраивали в материалы интимного характера. Так голос Алены оказался в порнорекламе, эротических чатах и стримах.

Посмотрим, в каких еще сферах дипфейки становятся оружием для манипуляций и нелегальных историй.

Политические игры

Весной 2019 года в скандал с дипфейком попала представительница Палаты США Нэнси Пелоси. На видео она ведет себя так, будто выпила много алкоголя. Подделка выдала себя не сразу — на изучение потребовалось несколько дней.

Безобидный эпизод в российском политическом мире, который подтверждает, что технологии дипфейка сильны, — летом 2023 года на Петербургском международном экономическом форуме партия ЛДПР «воскресила» Владимира Жириновского. 

Медицинский обман 

Британский врач Хилари Джонс чуть не потерял репутацию из-за дипфейка, который рекламировал новое лекарство, способное помочь людям с разными заболеваниями. Джонс ничего не знал ни о видео, ни о препарате. Этому ролику поверили многие, поскольку врачи обладают особым авторитетом — они помогают отчаявшимся найти надежду на выздоровление.

Как понять, что перед вами дипфейк

Распознать дипфейк непросто, но возможно. Вот ключевые моменты, на которые стоит обратить внимание.

Определить «на глаз»

Проверьте видео на несоответствие движений и ограничения в эмоциях. Если речь идет быстрее движения губ, эмоции гиперболизированы или, наоборот, отсутствуют, то, вероятнее всего, перед вами дипфейк. Это подтвердят искажения, неровности вокруг лица и неестественный голос. 

Если изучаете дипфейк в реальном времени, например на стриме, посмотрите на профиль героя. Люди реже фотографируются сбоку, чем в анфас. При повороте головы и тела программа быстро перестраивается и может допустить ошибку. А еще всегда проверяйте информацию в других источниках и сообщайте на порталы о своих сомнениях в достоверности контента. 

Провести фактчекинг

Метод глазомера не распознает дипфейк с идеальной точностью, поэтому исследователи разрабатывают программы для их выявления. Инструменты анализируют видео на наличие возможных манипуляций.

Программы, с помощью которых обнаружите дипфейки:

Forensically — бесплатный сайт с набором инструментов для анализа изображений. После загрузки картинка окажется под микроскопом — вы посмотрите на наличие в ней лишних шумов, вероятность копирования, исследуете гистограмму и проанализируете уровень ошибок в сравнении с другими версиями. 

MesoNet — нейросеть для выявления дипфейков, которую авторы тренировали на базе поддельных видео, часть которых они сделали самостоятельно. В ответ на загруженное изображение система выдаст численный ответ от 0 до 1. Чем ближе к 1, тем выше вероятность, что перед вами дипфейк. 

Ghiro — инструмент цифровой криминалистики для анализа изображений. Он извлекает метаданные, геотеги, изучает ошибки в разных областях картинки и проверяет миниатюры на несоответствия. 

Deepware — бесплатный сервис-скан для анализа видео. Полезен для журналистов, которые хотят проверить достоверность файла перед публикацией. 

Как регулируют дипфейки

Невозможно запретить или ограничить технологию дипфейков. Самый реальный способ регулировать их негативное распространение — информировать окружающих о рисках и последствиях и соблюдать личную кибербезопасность. Используйте в своих социальных сетях разные пароли и защиту от вредоносного ПО.

Если заметили дипфейк с собственным фото, видео или голосом, обратитесь к распространителю с просьбой удалить контент. Если автор дипфейка неизвестен, обратитесь в суд. По его требованию вам выплатят компенсацию морального вреда, установят факт незаконного использования изображения и голоса, уберут файл и запретят его дальнейшее использование. Нарушителя оштрафуют на 10 000 рублей, если его личность будет установлена. Повторное нарушение оценят до 150 000 рублей.

Главное о дипфейках 

1. Дипфейки — аудиовизуальный контент, который создан с помощью ИИ. Он может точно воспроизводить образы людей.
2. Технологию используют в рекламе, кино, искусстве и образовании, чтобы, например, омолодить актеров, перевести речь на другие языки, привлечь внимание к социальным проблемам и создать интерактивный контент. 
3. Дипфейки могут приносить пользу, например помогать людям с афантазией, улучшать образовательный процесс и создавать социально значимые проекты.
4. Существуют значительные риски, которые связаны с дипфейками: мошенничество, шантаж и дезинформация.
5. Почти 96% дипфейков в интернете составляют порнографические материалы, часто с изображениями женщин.
6. Выявить дипфейк можно с помощью зрительного анализа и специальных программ: Forensically и MesoNet.
7. Запретить дипфейки невозможно, но можно информировать общество о рисках и обеспечивать кибербезопасность, использовать судебные механизмы, чтобы удалить незаконный контент.
8. Технологии распознавания дипфейков помогают выявлять подделки и ограничивать их негативное воздействие.