Deepfake

Deepfake (дипфейк) — конкатенация слов «глубинное обучение» (англ. deep learning) и «подделка» (англ. fake)[1], методика синтеза изображения, основанная на искусственном интеллекте. Она используется для соединения и наложения существующих изображений и видео на исходные изображения или видеоролики. В подавляющем большинстве случаев, для создания таких видео используют генеративно-состязательные нейросети (GAN). Одна часть алгоритма учится на реальных фотографиях определенного объекта и создает изображение, буквально «состязаясь» со второй частью алгоритма, пока та не начнет путать копию с оригиналом[2].

Deepfake может быть использован для замены определённых элементов изображения на желаемые образы, в частности для создания фальшивых порнографических видео со знаменитостями или для порно-мести[3]. 96% такого рода видео – порнографическое. 99% порнографических дипфейков делаются с участием «звёзд»: популярных актрис и певиц[4]. Deepfake-порнография появилась в Интернете в 2017 году, в частности на Reddit[5] и была запрещена сайтами, включая Reddit, Twitter и Pornhub[6][7][8][9]. Deepfake может быть использован для создания поддельных новостей и вредоносных обманов[10][11].

Deepfake-ролики можно легко найти на популярных сайтах потокового видео, таких как YouTube или Vimeo. Популярной программой является FakeApp[12], использующая TensorFlow[13].

Методы выявления движения и превращения в целевое видео, которое похоже на целевой образ, были представлены в 2016 году и позволяют создавать поддельные мимические изображения в существующем 2D-видео в режиме реального времени[14] . 1 сентября 2020 года компания Microsoft анонсировала свою новую разработку – Microsoft Video Authenticator, программное обеспечение, которое позволяет определить вмешательство в видео[15].

Технология deepfake использовалась в музейном пространстве, например, в Музее Сальвадора Дали во Флориде в честь 115-летия известного художника была организована специальная выставка Dalí Lives («Дали жив»). По словам кураторов проекта, на этом мероприятии «искусство встречает искусственный интеллект». Они использовали сгенерированный искусственным интеллектом прототип художника, который общался с посетителями музея, рассказывал им истории о своих картинах и жизни, а также делал селфи и присылал фотографии на почту посетителей[16].

Центр противодействия дезинформации заявил в феврале 2022 года о том, что технология дипфейка может быть использована в информационно-психологической операции в ходе российского вторжения в Украину для создания ложного видео с заявлением о капитуляции Владимира Зеленского[17].