У китайських соціальних мережах напередодні Місячного Нового року почали з’являтися зроблені за допомогою ШІ відео з дівчатами, які виглядають як іноземки, але розмовляють китайською і пропагують любов до Китаю. Про це повідомило видання «Голос Америки».
Аватари у відео створюються з викрадених та змінених онлайн-зображень.
Однією з дівчат, які впізнали себе на відео, є українка Ольга Лоєк. Дівчина вивчає когнітивні науки в Університеті Пенсильванії. Кілька місяців тому вона відкрила YouTube-канал, де вона розповідає про ментальне здоров’я та ділиться своїми філософськими поглядами на життя. Однак незабаром після цього вона почала отримувати повідомлення від підписників, які розповідали, що бачили її в китайських соціальних мережах.
Там вона не Ольга Лоєк, а росіянка, яка розмовляє китайською, любить Китай і хоче вийти заміж за китайця. Її звуть Наташа, або Анна, або Грейс, залежно від платформи соціальних мереж в Китаї.
«Я почала перекладати відео за допомогою Google Translate і зрозуміла, що більшість цих облікових записів говорять про такі речі, як Китай, росія, про те, наскільки хороші відносини між Китаєм і росією, — сказала вона виданню «Голос Америки». — Це дуже образливо».
У деяких роликах аватари розповідають про те, як вони цінують тісні зв’язки росії та Китаю. В інших роликах вихваляють китайську історію та культуру або розповідають про те, як сильно росіянки хочуть вийти заміж за китайця, обіцяючи «прати білизну, готувати, мити посуд кожен день».
«Ми також дамо вам іноземних дітей, скільки захочете». — обіцяє одна з аватарів.
На відеосайтах Douyin і Bilibili міститься кілька десятків відео, на яких аватар Лоєк розмовляє китайською. Більшість із цих облікових записів запрошують глядачів відвідати онлайн-магазини, щоб купити, як вони кажуть, справжні російські товари.
Douyin, китайська версія TikTok, позначила деякі з цих відео як потенційно згенеровані ШІ. Але з коментарів видно, що багато хто вірить, що дивиться на справжню жінку.
Лоєк сказала, що ніколи не скаже подібних речей, очевидно, враховуючи, що вона з України, яка перебуває у стані війни з росією з 2022 року.
На Bilibili, найбільшому відеосайті Китаю, деякі відео із ШІ, у яких використовується обличчя Лоєк, позначено логотипом HeyGen, що вказує на те, що відео було створено на вебсайті компанії. В одному відео з Bilibili демонстратор навіть показує, як зробити коротке відео на HeyGen із кліпом, на якому розмовляє Лоєк.
У політиці модерації HeyGen зазначено, що користувачі не можуть створювати аватари, які «зображують реальних людей, включаючи знаменитостей або громадських діячів, без явної згоди».
Лоєк сказала, що після того, як вона та її підписники на YouTube надіслали скарги китайським компаніям соціальних мереж, близько десятка облікових записів, які імітували її, було видалено.
Видання «Голос Америки» звернулося до материнської компанії HeyGen і Douyin, ByteDance, за коментарями, але не отримало відповіді. На початку 2023 року уряд Китаю запровадив положення щодо регулювання дипфейків та інших «сервісів глибокого синтезу».
Закон забороняє створювати дипфейки без згоди людей, чиє зображення чи інша інформація використовуються. Лоєк опублікувала свою історію на YouTube, і її поширили в китайських соціальних мережах. Користувачі мережі на різних платформах співчували їй і закликали посилити правила щодо ШІ.