Выдать нереальное за реальное

Но для начала разберемся в сути явления. Руководитель отдела биометрических технологий и систем аутентификации компании «Инфосистемы Джет» Алексей Кузьмин рассказывает, что с технической точки зрения, дипфейк — это созданное или измененное с помощью алгоритмов ИИ изображение лица, видео или запись голоса. Видов несколько:

• полная замена: лицо одного человека подменяется другим;
• создание нового лица:, не существующего в реальности;
• изменение конкретных атрибутов лица;
• оживление и перенос мимики;
• клонирование голоса.

«Дипфейки обычно создают с помощью автоэнкодеров, генеративно-состязательных сетей и диффузионных моделей. Первые используют, чтобы выделить и сжать ключевые признаки (черты лица или тембр голоса), на базе которых потом строится генерация. Алгоритм вторых построен на работе двух сетей. Генератор берет входные данные (например, фото человека А и видео с человеком Б) и учится переносить черты (лицо, мимику, в аудио — тембр, паузы), создавая нечто новое. Дискриминатор проверяет, насколько убедительно получилось. Результат совершенствуется, пока он не перестает уверенно отличать синтезированные данные от реальных. Диффузионные модели создают изображения из шума, затем оживляют их, достраивают движение, артикуляцию и так далее», — объясняет заместитель заведующего научно-исследовательской лаборатории ИИ ПГУТИ Оксана Захарова.

Технология с большой зоной риска

Синтезированный контент используют вполне легально и повсеместно в медиа. В кино их применяют для омолажения или состаривание актеров, создания цифровых дублеров и т. д. Появляется всё больше рекламы с синтезированными людьми в кадре или «клонированными» звездами. Активно используют дипфейки и в сфере образования: для создания видеуроков, «оживления» исторических фигур, создания цифровых аватаров преподавателей и студентов.

Однако масштаб применения дипфейков преступниками тоже широкий: мошенничество, клевета, шантаж, дискредитация и дезинформация. По словам старшегопартнера ІТ-интегратора «Энсайн» Алексея Постригайло, злоумышленники используют ИИ сразу на двух этапах — сбора информации и создания контента: «Главная опасность дипфейка в том, что он превращает доверие к знакомому лицу или голосу в уязвимость. Для этого часто хватает общедоступных генераторов видео и сервисов синтеза речи. Материалом становятся фотографии, ролики из соцсетей и голосовые сообщения».

Эксперт по внедрению ИИ и бизнес-автоматизации, CEO и основатель компании AIVOLUTE Анна Райская отмечает, что порог входа в технологию за пару лет рухнул почти до нуля, а обойти защиту не составляет труда:
«Криминалу почти не нужен «темный» софт, вполне хватает легальных коммерческих сервисов. У всех есть защита: проверка личности и согласия перед клонированием голоса, блокировка клонов политиков, классификатор, определяющий, сделан ли звук их движком, цифровые метки происхождения. Но ее обходят, а где легальные сервисы отказывают, есть open-source-модели вообще без тормозов».

Юрист, доцент кафедры Иностранных языков и межкультурной коммуникации Финансового университет при Правительстве РФ Ольга Климова отмечает, что и биометрические базы язвимы перед дипфейками, особенно если система проверки использует только статичное изображение или простое видео. Многие компании внедряют дополнительные меры защиты — например, проверку на «живость», когда человек должен выполнить определенное действие: моргнуть, повернуть голову, произнести фразу.

Защита: от гигиены до паранойи

По словам Алексея Кузьмина, жизнь без интернета сейчас немыслима, а находясь в сети, мы в любом случае оставляем «цифровой след», который может быть использован. Основные способы защиты: ограничить публикации и научиться распознавать подделку. Также, по словам экспертов, важно соблюдать цифровую гигиену, включая внимательное отношение к запросам на предоставление данных, в том числе биометрических.

«Злоумышленники собирают видео/аудио жертвы через взлом соцсетей, фишинг или публичные базы. Минимизировать риск можно, закрыв аккаунты в соцсетях и включив двухфакторную аутентификацию. Также лучше не публиковать видео с четкими лицом и голосом», — советует ведущий аналитик «СёрчИнформ» Андрей Головин.

Анна Райская предлагает условиться с близкими о железном правиле: при любой «срочной беде» положить трубку и перезвонить самому, либо завести кодовое слово: «Распознать подделку «на глаз» всё сложнее, стопроцентной гарантии не дает ни один детектор, что признают сами разработчики. Так что главная защита сегодня — насмотренность и здоровая паранойя».

Психолог Родион Чепалов: «Главная опасность дипфейков не в технологии, а в ударе по базовому человеческому доверию. Поэтому и защита должна быть не только технической, но и психологической. Важный навык ближайших лет — доверять не эмоции момента, а процедуре проверки».

Что если дипфейк уже навредил

В законодательстве РФ нет наказания за дипфейк. Ведь его создание преступлением не является. Ключевым фактором становится использование технологии.

«Если дипфейк применяют для обмана, шантажа или распространения ложной информации, то могут применяться статьи Уголовного кодекса, связанные с мошенничеством, клеветой или вымогательством — обращаться нужно в полицию. Также можно подать гражданский иск о защите чести и достоинства и взыскании морального вреда. Однако на практике доказать факт использования дипфейка и привлечь виновных бывает непросто, особенно если материал создан анонимно», — комментирует ассистент кафедры гуманитарных наук Финансового Университета при Правительстве РФ Ярослав Климов.

Жертва вредоносного дипфейка также вправе потребовать его удаления с той или иной площадки. Но важно сразу сохранить ссылку и запись экрана.

Для глобального решения проблемы, по мнению экспертов, нужно продолжать повышать цифровую грамотность населения и менять законодательство. В числе предложений — закрепление четкого определения синтетического контента и вредоносного дипфейка, обязательная маркировка таких цифровых продуктов и сохранение сведений о распространителях на площадках, введение наказания за использование чужой внешности или голоса для создания дипфейка, развитие детекторов.

«Полностью запретить создание синтетического контента не получится, так как это часть пути развития ИТ. Однако государство может принять меры для того, чтобы остановить или хотя бы уменьшить объемы его незаконного использования. Комплексный подход позволит решить проблему», — подытожила Оксана Захарова.

Автор: Александра Ламзина

Материал подготовлен при поддержке гранта Минобрнауки России в рамках Десятилетия науки и технологий.