В 2023 году компания ElevenLabs запустила одноимённый сервис, который позволяет качественно клонировать голоса даже по небольшому образцу с записью речи. Спустя некоторое время этот инструмент стали активно использовать моддеры, в том числе для создания эротических и порнографических модов для The Elder Scrolls V: Skyrim.

В начале июля 2023 года пользователь Твиттера под ником Robbie92 собрал список актёров, чьи голоса синтезировали с помощью ИИ при создании подобных модов. Он также составил перечень самих модов, для озвучки которых нелегально использовали голоса Корри Инглиш, Коллин Делани, Сьюзэн Эйзенберг, Клаудии Кристиан и Эйприл Стюарт и других известных актёров, работавших над Skyrim и множеством других игр.

В таких модах, чаще всего эротического характера, женские персонажи флиртуют с главным героем или просто общаются с ним на откровенные темы. Так, в доступных в сети модах можно обнаружить фразы: «Я сделаю всё, папочка», «Ты был грязным мальчиком», «Мне нравится играть с твоим членом» и другие.

После того, как Robbie92 обратил внимание на ситуацию, в сети стали обсуждать, насколько легально создавать подобные моды. Несколько актёров, озвучивавших популярные игры, сообщили, что категорически против подобного.

Эбби Веффер, актриса (Genshin Impact и The Elder Scrolls Online: Necrom):

“Я не даю и никогда не дам согласия на использование моего голоса для ИИ-синтеза, клонирования, создания дипфейков и всего подобного. Это НЕ нормально.”

Кайл Маккарли, актёр (The Elder Scrolls Online):

“Пожалуйста, сообщите мне, если увидите, что мой голос применяют в таких модах. Я не хочу, чтобы люди использовали искусственный интеллект, чтобы озвучивать что-то моим голосом.”

Бен Дискин, актёр (The Elder Scrolls Online):

“Если вы обнаружите мой голос в одном из таких модов, то, пожалуйста, сообщите мне, чтобы я попросила убрать его. Я не даю согласия на использование моих биометрических данных в подобных целях.”

Зейн Шакт, актёр (Cleo: A Pirate’s Tale):

“Одно дело взять голос актёра и сделать так, чтобы он произнёс какой-нибудь глупый мем. Но совсем другое дело – заставить его участвовать в сексуальных сценах. Я не имею ничего против NSFW-модов или NSFW-искусства. Но в данном случае мы сталкиваемся с фундаментальным неуважением к актёрам озвучки.”

В апреле 2023 года один из крупнейших порталов для моддеров Nexus Mods объявил, что не будет запрещать использовать ИИ-инструменты для модов. В администрации сайта оставили за собой право блокировать моды в ответ на достоверную жалобу от правообладателя, например, владельца голоса.

Представители Nexus Mods также рекомендовали моддерам использовать ИИ-инструменты для генерации контента только с согласия владельцев прав. Однако на сайте продолжили выходить моды, в которых персонажей озвучивают при помощи сервисов вроде ElevenLabs.

Robbie92 предложил актёрам озвучки, которые против того, что их голоса синтезируют с помощью ИИ, направлять свои жалобы к Nexus Mods. По его словам, это позволит удалить часть модов с сайта и привлечь внимание администрации портала. На момент написания заметки на Nexus Mods было доступно по меньшей мере несколько десятков подобных модов.