Модель штучного інтелекту Gemini від Google самостійно зламала дані трьох компаній під час тестування її кібербезпекових спроможностей. У Google заявили, що це може бути першим відомим випадком, коли ШІ виконав подібні дії без прямого наказу людини, повідомляє ВВС.

За словами представника Google, Gemini знайшов необхідну відкриту інформацію в інтернеті та вгадав облікові дані для доступу до сайтів, які, на його думку, були частиною випробування. У кожному з трьох випадків модель зупинилася після отримання доступу.

Інциденти сталися в травні під час тестування, яке проводила незалежна компанія з оцінювання кібербезпеки Irregular. За даними Wall Street Journal, в одному з випадків Gemini перебрав кілька варіантів паролів, доки не отримав доступу до захищеної системи.

ЧИТАЙТЕ ТАКОЖ:

В Irregular повідомили, що поінформували Google і всі залучені сторони про результати розслідування ще в липні. За словами компанії, усі проблеми з її боку, про які було відомо, вже усунули.

У Google заявили, що повідомили трьом компаніям про цей випадок і разом з партнером, який проводив навчання моделі, внесли зміни до процесу тестування. Віцепрезидентка Google з питань інженерії безпеки Гезер Адкінс наголосила, що ці випадки демонструють необхідність відповідального підходу до навчання потужних моделей ШІ.

Як повідомляв ІМІ, в OpenAI попередили про неконтрольований розвиток ШІ та закликали до спільних правил.

ШІ-агент компанії OpenAI самостійно атакував інфраструктуру стартапу Hugging Face. Компанія Anthropic заявила, що три ШІ-моделі Claude отримали несанкціонований доступ до систем трьох організацій під час тестування, яке мало проходити в ізольованому середовищі без доступу до реальних систем.