В китайских социальных сетях накануне Лунного Нового года начали появляться сделанные с помощью ИИ видео с девушками, которые выглядят как иностранки, но разговаривают на китайском и пропагандируют любовь к Китаю. Об этом сообщило издание «Голос Америки».
Аватары в видео создаются из угнанных и измененных онлайн-изображений.
Одной из девушек, узнавших себя на видео, является украинка Ольга Лоек. Девушка изучает когнитивные науки в Университете Пенсильвании. Несколько месяцев назад она открыла YouTube-канал, где рассказывает о ментальном здоровье и делится своими философскими взглядами на жизнь. Однако вскоре после этого она начала получать сообщения от подписчиков, которые рассказали, что видели ее в китайских социальных сетях.
Там она не Ольга Лоек, а россиянка, которая говорит на китайском, любит Китай и хочет выйти замуж за китайца. Ее зовут Наташа или Анна или Грейс в зависимости от платформы социальных сетей в Китае.
«Я начала переводить видео с помощью Google Translate и поняла, что большинство этих аккаунтов говорят о таких вещах, как Китай, россия, о том, насколько хороши отношения между Китаем и россией, — сказала она изданию «Голос Америки». — Это очень обидно».
В некоторых роликах аватары рассказывают о том, как они ценят тесные связи России и Китая. В других роликах восхваляют китайскую историю и культуру или рассказывают о том, как сильно россиянки хотят выйти замуж за китайца, обещая «стирать белье, готовить, мыть посуду каждый день».
«Мы также дадим вам иностранных детей, сколько захотите», — обещает один из аватаров.
На видеосайтах Douyin и Bilibili содержится несколько десятков видео, на которых аватар Лоек разговаривает на китайском. Большинство из этих аккаунтов приглашают зрителей посетить онлайн-магазины, чтобы купить, как они говорят, настоящие российские товары.
Douyin, китайская версия TikTok, обозначила некоторые из этих видео как потенциально сгенерированные ИИ. Но из комментариев видно, что многие верят, что смотрят на настоящую женщину.
Лоек сказала, что никогда не скажет подобные вещи, очевидно, учитывая, что она из Украины, которая находится в состоянии войны с россией с 2022 года.
На Bilibili, крупнейшем видеосайте Китая, некоторые видео с ИИ, в которых используется лицо Лоек, отмечены логотипом HeyGen, указывающим на то, что видео создано на веб-сайте компании. В одном видео из Bilibili демонстратор даже показывает, как сделать короткое видео на HeyGen с клипом, на котором говорит Лоек.
В политике модерации HeyGen отмечено, что пользователи не могут создавать аватары, которые «изображают реальных людей, включая знаменитостей или общественных деятелей, без явного согласия».
Лоек сказала, что после того, как она и ее подписчики на YouTube направили жалобы китайским компаниям социальных сетей, около десятка учетных записей, которые имитируют ее, были удалены.
Издание «Голос Америки» обратилось к материнской компании HeyGen и Douyin, ByteDance, за комментариями, но не получило ответа. В начале 2023 года правительство Китая ввело положение о регулировании дипфейков и других «сервисов глубокого синтеза».
Закон запрещает создавать дипфейки без согласия людей, чьи изображения или другая информация используются. Лоек опубликовала свою историю на YouTube, и она была распространена в китайских социальных сетях. Пользователи сети на разных платформах сочувствовали ей и призвали ужесточить правила насчет ИИ.