ВВС: У TikTok набирають популярності відео, де вбиті діти згенерованими ШІ голосами описують власну смерть

Фото – eniyilerde.com

У китайському застосунку TikTok набирають популярності відео, де жертви вбивств – переважно діти – описують власну смерть, повідомляє ВВС.

Як пише медіа, у деяких роликах на анімованих фото – реальні діти, в інших – зображення створили нейромережі. Голосами, які також згенерував штучний інтелект (ШІ), діти докладно “розповідають”, як вони загинули.

Відео набирають мільйони переглядів, але родичі померлих критикують їх та кажуть, що не давали згоди на це. Автори відео ніяк не пов'язані із сім'ями жертв.

Колишній чоловік Амелі Лем'є з Канади убив у липні 2020 року її доньок – 6-річну Ромі та 11-річну Нору, а потім наклав на себе руки.

У квітні цього року їй надіслали TikTok-відео, у якому штучна версія її доньки Нори розповідала про їхні вбивства. Родина Лем'є та інші користувачі зверталися до техпідтримки TikTok із проханням видалити відео, але воно залишилося в мережі. І тільки після того, як Лем'є почала активно заявляти про свою позицію в засобах масової інформації, анонімний обліковий запис видалили.

Амелі Лем'є не вдалося знайти авторів відео, але вона вражена їхніми діями. “Коли хтось використовує біль, який залишиться з вами до кінця життя, це неймовірно шокує. І все заради переглядів, лайків і репостів. Особисто я не можу цього пробачити”, – сказала вона.

Автори відео намагаються залишатись анонімними. Але BBC знайшла одного з них – лондонського студента на ім'я Рітул. 

На своєму YouTube-каналі він просував такі історії для швидкого залучення аудиторії в TikTok. “Лише за три тижні я отримав 47 тисяч підписників”, – розповів він в одному відео. Рітул відхилив прохання ВВС про коментар, а його акаунт у TikTok видалено.

Історії деяких дітей знято кількома мовами, зокрема португальською, іспанською, французькою, німецькою, італійською та польською.

Так, BBC виявила 170 різних TikTok-відео про Джеймса Балджера – дворічного британського хлопчика, якого 1993 року вбили двоє старших дітей. Мати Джеймса Деніз Фергюс вважає такі історії “неймовірно огидними”.

TikTok масово видалив відео і опублікував заяву, в якій наголосив: “На нашій платформі не може бути такого тривожного контенту. Ми продовжуємо видаляти його в міру того, як виявляємо”.

Серед видалених відео про Джеймса є два в'єтнамською мовою, що зібрали 4 мільйони переглядів.

ВВС поговорила з модератором контенту TikTok у В'єтнамі, який погодився дати інтерв'ю на умовах анонімності. За його словами, за два тижні після того, як відео видалили, компанія так офіційно і не повідомила йому, що такий контент заборонено.

На його думку, відео підпадає під правила платформи, які дозволяють людям, що пережили експлуатацію та насильство, ділитися своїми історіями.

ВВС запитала в TikTok, чи досить чітко їхні працівники розуміють політику компанії, однак відповіді не отримали.

Проте, пише ВВС, TikTok чітко дав зрозуміти, що модератор помилився, адже це згенеровані комп'ютером зображення мертвих дітей, а не переживання тих, хто вижив.

Подібні відео, як і раніше, можна легко знайти на TikTok. Водночас платформа відкрито заявляє, що не може контролювати весь контент, який публікують її користувачі.