Google прозвітував уряду Австралії про скарги на терористичний ШІ-контент

Корпорація Google поінформувала австралійську владу, що за майже рік отримала понад 250 скарг з усього світу про використання її програмного забезпечення на базі штучного інтелекту для створення дипфейків терористичного характеру, повідомляє Reuters.

Також у Google повідомили про десятки звернень від користувачів, які заявляли, що ШІ-програма від Google, Gemini, застосовувалася для створення матеріалів, пов’язаних з насильством над дітьми. Про це йдеться у звіті австралійської Комісії з онлайн-безпеки (eSafety Commission).

За австралійським законодавством технологічні компанії під загрозою штрафів зобов’язані регулярно надавати комісії інформацію про заходи, яких вони вживають заради мінімізації ризиків. Цього разу звітний період охоплював квітень 2023 – лютий 2024 року.

Після того як компанія OpenAI наприкінці 2022 року запустила ChatGPT, регулятори в усьому світі закликали до створення надійних механізмів захисту, щоб штучний інтелект не використовували для тероризму, шахрайства, порнографії з дипфейками та інших незаконних дій.

Австралійська Комісія з онлайн-безпеки назвала інформацію від Google “першим у світі поглядом” на те, як користувачі можуть використовувати цю технологію для створення шкідливого й незаконного контенту. Регулятор зазначив, що Google використовував систему автоматизованого порівняння нових зображень з уже завантаженими в мережу для виявлення матеріалів із сексуальною експлуатацією дітей, але не для фільтрації терористичних або екстремістських матеріалів, створених за допомогою Gemini.

Комісія раніше вже штрафувала Telegram і X за недостатню прозорість у їхніх звітах. X програла один судовий розгляд щодо штрафу в розмірі 610 500 австралійських доларів (близько $382 тис.), але планує подати повторну апеляцію. Telegram також має намір оскаржити свій штраф.

Як повідомляв ІМІ, у серпні 2024 року компанія Google долучилася до посилення кіберзахисту критичної інфраструктури Австралії.

Марія Ігнатьєва, Валентина Троян