Клон української блогерки, генерований ШІ, продає російські товари в Китаї

Ольга Лоєк. Фото – скриншот Радіо Свобода

Клон 20-річної української блогерки Ольги Лоєк, генерований штучним інтелектом, продає російські товари в китайських соцмережах.

Про це пише Радіо Свобода.

Ольга Лоєк вивчає когнітивні науки в Університеті Пенсильванії. Кілька місяців тому вона відкрила канал на YouTube, де розповідає про ментальне здоров’я та ділиться своїми філософськими поглядами на життя.

З часом вона почала отримувати повідомлення від підписників, які розповідали, що бачили її в китайських соціальних мережах.

Там вона не Ольга Лоєк, а росіянка, яка розмовляє китайською, любить Китай і хоче вийти заміж за китайця. Її звуть Наташа, або Анна, або Грейс, залежно від платформи соціальних мереж у Китаї.

"Я почала перекладати відео за допомогою Google Translate і зрозуміла, що більшість цих облікових записів говорять про такі речі, як Китай, Росія, про те, наскільки хороші відносини між Китаєм і Росією. Це дуже образливо", – говорить Ольга.

На відеосайтах Douyin і Bilibili міститься кілька десятків відео, на яких аватар Лоєк розмовляє китайською. Більшість із цих облікових записів запрошують глядачів відвідати онлайн-магазини, щоб купити, як вони кажуть, справжні російські товари.

Douyin, китайська версія TikTok, позначила деякі з цих відео як потенційно згенеровані ШІ. Але з коментарів видно, що багато хто вірить, що дивиться на справжню жінку. 

Лоєк наголосила, що ніколи не скаже подібних речей, очевидно зважаючи, що вона з України, яка перебуває в стані війни з Росією. 

На Bilibili, найбільшому відеосайті Китаю, деякі відео зі штучним інтелектом, в яких використовується обличчя Лоєк, позначено логотипом HeyGen, що вказує на те, що відео було створене на вебсайті компанії. В одному відео з Bilibili демонстратор навіть показує, як зробити коротке відео на HeyGen із кліпом, на якому розмовляє Лоєк.

HeyGen – це компанія штучного інтелекту зі штаб-квартирою в Лос-Анджелесі, яка працює в Китаї з 2020 року. Вона спеціалізується на реалістичних цифрових аватарах, генерації голосу та перекладі відео. Технологія, розроблена HeyGen, була використана у відео штучного інтелекту, де Дональд Трамп і Тейлор Свіфт розмовляють ідеальною китайською мовою, які стали вірусними в китайських соціальних мережах у жовтні 2023 року.

У політиці модерації HeyGen зазначено, що користувачі не можуть створювати аватари, які "зображують реальних людей, зокрема знаменитостей або громадських діячів, без явної згоди".

Навчальне відео компанії зі створення аватарів показує, що користувачі повинні надіслати відео людей, які дають згоду на використання їхнього зображення.

Лоєк сказала, що після того, як вона та її підписники на YouTube надіслали скарги китайським компаніям соціальних мереж, близько десятка облікових записів, які імітували її, були видалені.

Вона також зазначила, що не планує залишати YouTube або припиняти публікації.

"Нам потрібна певна нормативна база, щоб розуміти та запобігти подібним речам", – сказала вона.