Компанія OpenAI звільнила трьох дослідників через порушення під час роботи з інформацією, зокрема повʼязаною із зовнішньою організацією, яка аналізує моделі штучного інтелекту. Про це повідомляє BBC.
“Наше розслідування підтвердило, що ці особи працювали з конфіденційною інформацією в способи, не передбачені встановленими в компанії процедурами, порушуючи наші правила й підважуючи довіру, необхідну для нашої роботи”, – сказав речник компанії в розмові з BBC.
Компанія не назвала імен звільнених працівників. Відомо, що щонайменше двоє з них брали участь у дослідженнях з безпеки.
ЧИТАЙТЕ ТАКОЖ:
- Австралія розслідує злам держпорталу ШІ-агентом OpenAI
- Штучний інтелект Gemini від Google зламав три компанії під час тестування
- Anthropic: Російські хакери використовували ШІ Claude для атак на українські держструктури
“Ми припинили співпрацю з трьома особами за порушення нашої політики щодо доступу й оброблення конфіденційної інформації компанії”, – заявив речник OpenAI.
Як пояснює медіа, нещодавно низка дослідників і лідерів галузі закликала до посилення обмежень на технології штучного інтелекту.
Цей інцидент змусив OpenAI переглянути діяльність своїх ШІ-агентів, призначених для автономного виконання завдань на основі простих інструкцій.
Компанія заявила, що цього тижня сповістила понад 100 організацій про інциденти, пов’язані з несанкціонованою діяльністю її систем.
Отримання сповіщення “не означає, що був отриманий доступ до приватної інформації” або що систему було зламано, йдеться в повідомленні.
Як повідомляв ІМІ, компанія Anthropic заявила, що виявила в мовних моделях на кшталт Claude внутрішній механізм, який допомагає їм аналізувати, планувати та працювати з інформацією ще до того, як вона з’являється у відповіді користувачу.