Тейлор Свифт стала жертвой скандала с дипфейком. Кто еще пострадал
. В Microsoft этот инцидент назвали тревожнымТейлор Свифт в центре скандала с дипфейком, в Microsoft назвали его тревожным
Американская певица, 12-кратная обладательница «Грэмми» Тейлор Свифт
Дипфейк американской певицы Тейлор Свифт вызвал новые дискуссии среди пользователей о том, как далеко может зайти такое развлечение. Некоторые всерьез заговорили о том, что это несет большие риски для информационной безопасности. Мимо скандала не прошли и в Белом доме.
РБК Life разобрался в истории и вспомнил громкие случаи с незаконным использованием дипфейков.
Что произошло
25 января в Сети появились изображения эротического характера с Тейлор Свифт, которые были сгенерированы искусственным интеллектом. Они были опубликованы в социальной сети X (ранее Twitter, заблокирована в России). Один из постов собрал более 45 млн просмотров, прежде чем аккаунт был заблокирован.
Через несколько дней платформа попыталась помешать распространению фейковых изображений при помощи замедления работы, а также блокирования поиска имени певицы в поисковой строке. 26 января служба безопасности социальной сети отчиталась, что «активно удаляет все идентифицированные изображения» и «принимает соответствующие меры в отношении учетных записей, ответственных за их публикацию».
Тейлор Свифт
«Размещение изображений обнаженной натуры без согласия строго запрещено на X, и мы придерживаемся политики абсолютной нетерпимости к такому контенту. Мы внимательно следим за ситуацией, чтобы гарантировать немедленное устранение любых дальнейших нарушений и удаление контента. Мы стремимся поддерживать безопасную и уважительную среду для всех пользователей», — заявили представители X.
Ситуацию прокомментировал СЕО Microsoft Сатья Наделла, назвав ее «тревожной и ужасной». Он заявил об ответственности индустрии за контент и за создание ограничений для таких технологий.
Не остались в стороне от этой истории и власти США. Пресс-секретарь администрации американского президента Карин Жан-Пьер заявила, что в Белом доме беспокоены ситуацией, и высказалась за принятие закона, защищающего граждан от фальшивых сексуальных изображений.
«Социальные сети принимают собственные независимые решения об управлении контентом. Мы считаем, что они должны соблюдать свои же правила для предотвращения распространения дезинформации и сфабрикованных интимных изображений», — подчеркнула Жан-Пьер.
Что такое дипфейк
Дипфейк (от deep learning — «глубокое обучение» и fake — «подделка») — это синтетический контент, в котором человек в уже существующем или сгенерированном фото, аудио или видео заменяется на другого. Дипфейки могут создаваться в различных форматах — фото, видео, голосе. Зачастую их используют в рекламе, порнофильмах или для финансового мошенничества.
Громкие случаи
Бывали вполне безобидные случаи использования технологии. Например, когда любители франшизы «Назад в будущее» встроили в фильм Роберта Дауни-младшего и Тома Холланда, заменив Кристофера Ллойда и Майкла Дж. Фокса соответственно.
В большинстве же случаев «лица» знаменитостей используют без разрешения. Особой популярностью пользуется звезда фильмов «Матрица» и «Джон Уик» Киану Ривз. На YouTube даже существует канал Unreal Keanu Reeves с 1,6 млн подписчиков. На нем регулярно выходят ролики с участием «Ривза».
Компания Roistat незаконно использовала в рекламе своего мероприятия дипфейк-ролик с лицом актера. В декабре прошлого года Арбитражный суд Москвы постановил, что за «нарушение исключительного права на видео» Roistat должна выплатить 500 тыс. руб. компенсации.
Сам актер заявил, что его расстраивает эта технология, потому что она лишает людей самостоятельности. «Когда вы снимаетесь в фильме, вы знаете, что кадры будут монтировать, но вы в этом участвуете. Если вы войдете в страну дипфейков, там не будет вашей точки зрения. Это страшно. Будет интересно посмотреть, как люди справятся с этими технологиями», — считает Ривз.
Популярен у создателей такого контента и Брюс Уиллис. Актеру даже пришлось опровергать сообщения о продаже его «цифрового близнеца» дипфейк-компании.
«Слова об этом не были верными. Брюс не мог никому продать никаких прав, так как они принадлежат только ему одному по умолчанию», — пояснил тогда представитель актера.
При этом в 2021 году Брюс Уиллис появился в рекламном ролике российского оператора мобильной связи «Мегафон». Его молодую копию создали с применением технологии генерации лиц на основе нейросетевых алгоритмов. Однако тогда Уиллис дал согласие на это и даже заявил, что доволен точностью, с которой был выполнен его персонаж.
В 2020 году YouTube-канал Vocal Synthesis, который выкладывает юмористические дипфейки с использованием голосов политиков и знаменитостей, разместил несколько сгенерированных записей начитки текстов американской рэп-звезды Jay-Z.
Компания RocNation, которая принадлежит Jay-Z, незамедлительно подала иск о нарушении авторских прав. Организация потребовала удалить видео, где, по их мнению, незаконно использован ИИ для имитации голоса музыканта. Удалили в итоге лишь часть видео, поскольку в США не каждый случай коммерческого использования чужого голоса является нарушением закона.
Как регулируется эта область
Пока ни в одной стране мира не создано законодательной практики, которая могла бы сразу влиять на создателей дипфейков, а также запускать процедуру удаления подделок. Однако после скандала с дипфейками Тейлор Свифт, кажется, могут произойти значительные изменения в этой сфере, по крайней мере в США. Группа сенаторов внесла в конгресс законопроект, который вводит наказание за распространение сексуализированных дипфейков.
«Никто — ни знаменитости, ни простые американцы — никогда не должен оказаться в порнографии, созданной искусственным интеллектом. Люди имеют право защищать свою репутацию и привлекать преступников к ответственности в суде», — заявил один из авторов документа сенатор Джош Хоули.
