Компанія OpenAI позбавила користувачів застосунку Sora, який за допомогою ШІ генерує фотореалістичні відео, здатності створювати дипфейки із зображеннями Мартіна Лютера Кінґа – молодшого. Таке рішення було ухвалене після звернення від його спадкоємців, повідомляє ВВС.
У компанії визнали, що в застосунку створювався “неповажливий” контент про борця за громадянські права, зокрема різноманітні спотворення його відомої промови “У мене є мрія”. В одному ролику, за даними Washington Post, зображення Кінґа робило расистські вигуки; інші відео зображали бійку між постатями, схожими на Кінґа і його сучасника, іншого активіста Малкольма Ікса.
Берніс А. Кінґ, донька правозахисника, також попросила користувачів мережі утриматися від створення дипфейків з її батьком. “Будь ласка, припиніть”, – написала вона, приєднуючись до звернення доньки покійного коміка Робіна Вільямса, яка раніше просила людей не надсилати їй згенеровані ШІ відео з його подобою.
В OpenAI заявили, що призупинять генерування дипфейків з Кінґом, поки триватимуть роботи з “посилення механізмів захисту історичних постатей”. Водночас користувачі досі можуть створювати відео з іншими знаменитостями.
Експертка з етики використання ШІ Олівія Ґемблін у розмові з ВВС назвала рішення компанії “хорошим кроком уперед”, але додала, що розробники мали запровадити такі обмеження із самого початку. На її думку, змога створювати дипфейки покійних історичних постатей свідчить про “неповагу” до них і становить загрозу здатності людей відрізняти справжній контент від фейків.
У своїй заяві 17 жовтня в OpenAI повідомили, що, на їхню думку, “створення зображень історичних постатей є питанням свободи слова”, але погодилися, що самі знаменитості та їхні родини повинні мати контроль над такими зображеннями.
“Уповноважені представники або спадкоємці прав можуть звернутись із запитом на припинення використання їхніх зображень у відео Sora”, – йдеться в заяві компанії.
Експерт із генеративного ШІ Генрі Адждер зауважив, що цей підхід, хоч і є позитивним, “викликає запитання щодо того, хто отримує захист від синтетичного воскресіння, а хто ні”.
“Спадкоємці Кінґа виправдано звернулися до OpenAI стосовно цього, але в багатьох покійних осіб немає добре відомих і добре фінансованих представницьких організацій. На мою думку, найкраще було б уникнути сценарію, де суспільство просто примиряється з тим, що після смерті людини її зображення може вільно використовувати будь-хто, якщо ця людина не була дуже знаменитою”, – каже фахівець.
На початку жовтня OpenAI заявила журналістам ВВС, що побудувала “кілька шарів захисту для запобігання неправомірному використанню” застосунку і що підтримує “безпосередній діалог із громадськими діячами й правовласниками контенту, збираючи відгуки стосовно того, що вони хочуть контролювати”, з наміром робити подальші нововведення, які відображають ці побажання.