Реальная нереальность: возможности и угрозы, которые создают технологии deepfake

Сальвадор Дали

общается

с ценителями его искусства, Дэвид Бекхэм

говорит

на девяти языках, а звезда «Перевозчика» Джейсон Стейтем празднует 60-летие в российской глубинке со своими голливудскими друзьями. Это не фантастика, но и не правда, а демонстрация лишь некоторых из возможностей технологии deepfake.

Голливудские друзья

«2027 год. После пятилетних съёмок в России Джейсон Стейтем остался жить в русской глубинке. На 60-летие к звезде приезжают голливудские друзья: Киану Ривз, Марго Робби и Роберт Паттинсон». Это анонс к сериалу «ПМЖейсон», созданный российской продакшен-компанией Agenda Media Group на основе технологии deepfake. 

Deepfake — это методика синтеза изображения, основанная на искусственном интеллекте, при котором одно изображение или видео накладывается на другое. Часто для этого используют генеративно-состязательные нейросети. Суть в том, что одна часть учится создавать настолько правдивое изображение, что другая перестаёт отличать копию от оригинала. Другой вариант создания deepfake — это обучение нейронных сетей на больших данных. 

«ПМЖейсон» не первый опыт применения технологии для Agenda Media Group, рассказывает Алексей Парфун, CEO компании. С 2019 года Agenda создавала короткие танцевальные видео для TikTok. Первым героем был всё тот же Джейсон Стейтем. Его выбрали из-за причёски, делится Парфун: поначалу нейросети не умели создавать реалистичные волосы, а у Стейтема их просто нет. 

Затем появилось желание делать ролики длиннее и сложнее. Так пришла идея создания сериала «ПМЖейсон», в котором Джейсон попадает в различные бытовые ситуации в российской глубинке, а компанию ему составляют Киану Ривз, Марго Робби и Роберт Паттинсон. Создатели хотели показать, что в России тоже весело жить, а все люди — одинаково хороши и позитивны, рассказывает Парфун. Кроме того, продолжает он, важно было подчеркнуть высокий уровень видеопродакшена в России, креативность и технологичность исполнения.

Команда проекта состояла примерно из 70 человек: съёмочной группы, видеоинженеров, актёров, продюсеров, специалистов по компьютерной графике и deepfake-технологиям. Начали съёмки летом 2022 года, и к осени сериал был готов. 

Проект стартовал «Вконтакте», затем перекочевал на Youtube. К лету 2023 года он набрал миллионы просмотров суммарно на разных площадках. Не обошлось без неприятностей: в Youtube «ПМЖейсон» тиражировали без согласия основателей, но после жалобы на незаконное размещение авторского контента площадка удалила аккаунт нарушителя. 

Информационная активность вокруг сериала привлекла много внимания к компании и её компетенциям, говорит Парфун. «Сейчас у нас огромное количество проектов, уже созданных и только запускаемых, а также умопомрачительно большое количество проектов в обсуждении», — рассказывает он. 

Риски технологии

Законодательства, которое бы регулировало использование deepfake-технологии, в России нет. 

«Дипфейки всё чаще становятся причиной обеспокоенности правоохранителей и регуляторов из-за возможного использования технологий в “серой” правовой зоне или в противозаконных целях», — рассказывает Екатерина Тягай, адвокат, к. ю. н., партнёр и руководитель практики Sensitive Matters коллегии адвокатов Pen & Paper. Самые простые примеры — это нарушение прав на изображение, авторских и смежных прав, а также незаконное использование персональных данных. Среди других — дезинформация, манипулирование общественным мнением или киберпреступления. 

«Речь также о фейк-ньюсе, в том числе с использованием

изображений политиков

для вмешательства в общественную и

политическую

деятельность, о порнографии, клевете, мошенничестве или вымогательстве с использованием дипфейков», — продолжает Тягай.

Примеров в мире достаточно. Так, в Китае мошенник

использовал

deepfake- и  deepvoice-технологии (то же, но с голосом. — Прим. ред.) и обманом заставил жертву перевести на свой счёт 622 000 долларов. В Великобритании жертвой

стала

энергетическая компания, гендиректора которой обманул хакер на 243 000 долларов, представившись его деловым партнёром. 

Британский канал Channel-4 в 2020 году

показал

рождественское поздравление фейковой Елизаветы II. Канал объяснил это желанием привлечь внимание к проблеме возможной дезинформации. 

Стоит быть осторожным, даже если в использовании deepfake нет злого умысла. Тягай советует получить согласие на использование образа от человека или его представителей, а при использовании голоса — убедиться, что нет нарушения закона о персональных данных. Перед стартом проекта «ПМЖейсон» его создатели тоже консультировались с юристами. Вывод: сериал соответствуют нормам российского законодательства, потому что в образах героев нет ничего порочащего и они не используются в коммерческих целях, говорит Парфун. 

Динамика рынка deepfake в России, млрд ₽

Источник: 

Дорожная карта «Новые коммуникационные интернет-технологии»

Что дальше

Сфер применения deepfake-технологий множество — от телевидения, кино и искусства до кибербезопасности. В Китае государственное новостное агентство Xinhua

создало

виртуальную ведущую, которая может читать новости буквально 24/7, ещё в 2018 году. Два года спустя deepfake-копия ведущей Ким Джу Ха

начала

рассказывать новости зрителям другого канала — MNB. 

Deepfake-технологии можно использовать в рекламе. Например, аватар Дэвида Бекхэма

говорил

на девяти языках в рекламе британской благотворительной организации «Нет малярии». 

Парфун говорит: у технологии deepface (команда предпочитает называть её так, чтобы избежать негативной коннотации) большое будущее. Она открывает широкие возможности для создания контента в разных сферах. Например, Юрий Гагарин или инженер-конструктор Сергей Королёв могли бы читать лекцию о самих себе. Нечто подобное уже было: музей Сальвадора Дали

организовывал

выставку Dali Lives, где на вопросы фанатов отвечал аватар художника. Нейросети, обученные на всё больших объёмах данных, будут создавать всё более реалистичный фото-, видео-, аудиоконтент. 

Неудивительно, что многие компании работают для того, чтобы предоставить пользователям персонализированный и уникальный опыт. Например, приложение Zao

позволяет

им сниматься в своих любимых фильмах. Американская ObEN

создаёт

персонализированных аватаров, говорящих на разных языках. Эта технология использовалась в проектах для инвесторов и клиентов, а также на телевидении. Кроме того, её могут применять бренды или артисты для завоевания новых рынков. 

Технология стартапа Respeecher позволяет клонировать голос. Это, по задумке компании, будет интересно создателям контента.  

Российская NTechLab с помощью deepfake-технологий

анализирует

видео, занимается распознаванием лиц, силуэтов людей, автомобилей и номерных знаков. 

СберПро Медиа теперь можно читать в Телеграме и Дзене. Чтобы быть в курсе важных трендов, свежих кейсов лидеров бизнеса и мнений ведущих экспертов, следите за нами в

Телеграм-канале

. Развитие навыков управления, личностный рост, актуальные подходы в маркетинге, новинки бизнес-литературы — эти темы мы подробно рассматриваем в

Дзен

.