1. Что такое дипфейк?
2. Отличие дипфейка от других видов манипулируемых медиа?
3. Как создают дипфейки?
4. Кто создает дипфейки?
5. Как используют дипфейки?
6. 6 инструментов для создания дипфейков
7. Как распознать дипфейк?
8. Вред и польза дипфейков
9. Что нас ждет в будущем?
10. Выводы
Бриф статьи Разбираемся, что такое дипфейк и как создаются сгенерированные искусственным интеллектом подделки.
Технологии становятся все лучше в моделировании реальности. Созданные с помощью искусственного интеллекта (ИИ) медиаданные попали в заголовки известных изданий — особенно видео, где кто-то говорит или совершает что-то, чего на самом деле не делал.
Группа старшеклассников из Нью-Йорка сгенерировала ролики, на которых директор средней школы делает расистские высказывания и угрожает ученикам. В Венесуэле с помощью ИИ создали видео для распространения политической пропаганды. Стримера Twitch поймали на просмотре сайта с фейковым порно-контентом с женщинами-геймерами.
Во всех трех случаях сгенерированные с помощью ИИ видео созданы с целью убедить людей в том, что кто-то сделал то, чего на самом деле никогда не совершал.
Такой контент называется дипфейком.
Что такое дипфейк?
Дипфейк — это технология синтезирования медиаданных, на которых лицо человека на существующих фото или видео заменяется лицом другого человека. При создании подделок используются методы искусственного интеллекта, машинного обучения и нейронных сетей.
С помощью таких систем можно синтезировать убедительные фейковые видео, фотографии и «голосовые клоны».
Примечание: название технологии происходит от сочетания английских терминов deep learning (глубокое обучение) и fake (подделка).
Слово «дипфейк» возникло в конце 2017 года. Его применил пользователь Reddit под ником deepfakes. Он поделился ИИ-видео, где «прикрепил» лица знаменитостей на тела актрис в порнографических роликах.
В то время также стал популярен контент с поддельным Николасом Кейджем в различных фильмах, где он не снимался.
Однако deepfakes нельзя считать изобретателем технологии. Она является результатом работы множества исследователей и энтузиастов в течение нескольких десятилетий.
Чем дипфейки отличаются от других видов манипулируемых медиа?
Дипфейки — это не просто фальшивый или вводящий в заблуждение контент.
Изображение Папы Римского Франциска в пуховике или якобы фото ареста бывшего президента США Дональда Трампа, распространяемые незадолго до предъявления ему обвинения, созданы с помощью ИИ. Однако это не дипфейки.
Подобный контент в сочетании с вводящей в заблуждение информацией обычно называют «поверхностными фейками» (shallowfakes).
Дипфейк отличает элемент человеческого вклада. Только в конце синтеза пользователь решает, подходит ли ему результат. Он также может адаптировать обучающие данные, однако более никак не влияет на алгоритм.
Как создают дипфейки?
Существует несколько методов создания дипфейков. Наиболее распространенный основан на применении глубоких нейросетей, использующих технику подмены лиц.
Пользователю требуется видео, которое станет базой для дипфейка, и ролики с человеком, чье лицо необходимо вставить.
Медиаданные не обязательно должны пересекаться друг с другом. Основой может стать, например, отрывок из голливудского фильма, а другие видео — случайные клипы с человеком на YouTube.
Алгоритм анализирует, как выглядит человек с разных ракурсов и в непохожих условиях. Затем он сопоставляет лица в целевом видео, находя общие черты.
Для обнаружения и исправления ошибок в дипфейках часто используют . Это усложняет декодирование таких роликов детекторами подделок.
Хотя создание дипфейков может оказаться сложной задачей, соответствующее программное обеспечение упрощает процесс. Новичкам доступны приложения вроде Zao, DeepFace Lab, FakeApp и Face Swap. Более продвинутые пользователи могут найти релевантное ПО на сервисе GitHub.
Кто создает дипфейки?
Дипфейки могут генерировать исследователи, инженеры машинного обучения, студии визуальных эффектов, режиссеры и энтузиасты. Благодаря популярным приложениям вроде Reface любой желающий со смартфоном способен сделать поддельные фото или видео.
Правительства могут задействовать технологию в рамках стратегий по дискредитации и подрыву экстремистских групп или установлению контактов с целевыми лицами.
Например, в 2022 году южнокорейские разработчики создали дипфейк кандидата в президенты Юн Сок Еля для привлечения молодых избирателей в преддверии выборов. Цифровой аватар похож на реального политика и умеет шутить.
Также дипфейки применяют деятели искусства.
В октябре 2023 года вышел клип на песню «Вовча ягода» украинского исполнителя WELLBOY. Певец Антон Вельбой не участвовал в съемках из-за разрыва сотрудничества с лейблом, поэтому в ролике используются его дипфейк и голос.
Как используют дипфейки?
Многие из созданных дипфейков — порнографические. Согласно отчету стартапа Deeptrace, в 2019 году ролики для взрослых составляли 96% из всех подделок в интернете.
В июне 2023 года ФБР предупредило общественность об опасностях генеративного ИИ и его применении для «создания порнографического контента, секс-вымогательства и преследований».
Дипфейки также используют в преступлениях несексуального характера. Например, в 2023 году злоумышленники подделали голос ребенка, чтобы шантажировать его мать.
В январе 2020 года в ОАЭ мошенники с помощью искусственного интеллекта сымитировали речь руководителя крупной компании и убедили банковского работника перевести $35 млн на их счета.
ИИ-подделки также используются в политике. В 2018 году бельгийская социалистическая партия опубликовала дипфейк, на котором Дональд Трамп призывает страну выйти из Парижского соглашения.
Дипфейки применяются для информационных атак, создания пародий и сатиры.
В 2018 году режиссер Джордан Пил и издание BuzzFeed опубликовали якобы обращение бывшего президента США Барака Обамы, где он назвал Дональда Трампа «засранцем». Ролик создали с помощью приложения FaceApp и графического редактора Adobe After Effects.
Режиссер и журналисты хотели показать, как в будущем могут выглядеть фейковые новости.
В 2022 году после полномасштабного вторжения России на территорию Украины в соцсетях распространили дипфейк президента Владимира Зеленского. В ролике глава государства «призвал народ сдаться».
Однако пользователи быстро определили подделку, а Зеленский записал опровержение.
6 инструментов для создания дипфейков
Ввиду популярности технологии в интернете доступно множество ИИ-инструментов для создания фото и видео дипфейков. Их можно использовать в развлекательных и исследовательских целях.
MyHeritage
Это одно из самых популярных дипфейк-приложений на рынке. Вирусной стала функция Deep Nostalgia, которая позволяет «оживлять» старые фото.
Пользователю достаточно загрузить изображение и нажать кнопку анимации.
Reface
Приложение позволяет заменять одно лицо на другое в видео или GIF.
Пользователю необходимо сделать селфи и выбрать целевой ролик. Через несколько секунд приложение предложит готовую анимацию.
Система не всегда точно сопоставляет людей. Результат зависит от симметрии лица на фото и качества входных данных.
Wombo
Приложение «заставляет» людей на фото петь.
Пользователю нужно сделать селфи и выбрать трек из списка. Система анимирует лицо и синхронизирует его губы с музыкальным произведением.
DeepFakes Web
Сервис позволяет заменить лицо одного человека в видео на другое.
Пользователю необходимо загрузить исходный и целевой ролики. Обработка происходит в облаке и занимает около 30 минут.
При необходимости пользователь может повысить качество созданного дипфейка, повторно применяя обученную модель и повышая качество используемых данных.
Synthesia
Позволяет генерировать высококачественные фейковые видео с помощью искусственного интеллекта. Среди доступных функций: реалистичная смена лиц, синхронизация губ и клонирование голоса.
Однако алгоритмы Synthesia требуют сложного обучения, поэтому сервис предназначен для опытных пользователей.
DeepFaceLive
Сервис позволяет подменять лицо пользователя в видео. Он бесплатный и доступен на GitHub.
Алгоритм работает в режиме реального времени. Он умеет накладывать дипфейк в ходе прямых трансляциях или видеоконференций, например, в Zoom.
Для повышения качества работы технологии пользователь может настроить модели вручную. Однако из-за отсутствия подробной документации DeepFaceLive достаточно сложный для новичков.
Программа совместима лишь с видеокартами Nvidia, начиная от модели GeForce GTX 750 и выше.
Как распознать дипфейк?
Часто поддельные фото и видео низкого качества. Однако технология развивается и определить дипфейки становится сложнее.
Но методы обнаружения подделок тоже не стоят на месте. Чтобы выявить дипфейк, пользователю необходимо обратить внимание на определенные детали. Среди них:
Также можно использовать специальное программное обеспечение для обнаружения дипфейков. Такие системы с помощью различных инструментов и методов анализируют данные на предмет манипуляций.
Однако подобное ПО не всегда надежно на 100%. Результат необходимо перепроверять. Против дипфейков борются крупные технологические корпорации. В апреле 2022 года компании Adobe, Microsoft, Intel и другие объединились в альянс C2PA для обнаружения поддельных фото и видео в интернете.
Вред и польза дипфейков
Помимо дезинформации, преследований, запугиваний и унижений, дипфейки могут подорвать доверие общества, когда люди не хотят или не могут отличить правду от лжи. Это может привести к сомнениям относительно конкретных событий.
Например, в 2018 году министр связи Республики Камерун назвал фейковым видео, где, по мнению правозащитной организации Amnesty International, солдаты казнят мирных жителей.
«Проблема заключается не столько в подделках, сколько в том, что настоящую реальность можно правдоподобно отрицать», — заявила эксперт в области интернет-права в Университете Ньюкасла Лилиан Эдвардс.