Американська компанія у сфері штучного інтелекту Anthropic виявила та припинила російську кібершпигунську кампанію проти українських урядових, військових і дипломатичних структур. Зловмисники використовували моделі Claude майже на кожному етапі атак, а частину процесів автоматизували. Про це йдеться в новому звіті Anthropic Threat Intelligence, повідомляє “Межа”.

У звіті йдеться про зловмисне використання моделей Claude протягом останніх восьми місяців. За даними Anthropic, кіберзлочинці дедалі частіше застосовують ШІ не лише як допоміжний інструмент, а для координації та виконання значної частини кібероперацій.

Компанія пов’язала атаку на українські структури з російським угрупованням Midnight Blizzard. За даними компанії, зловмисники використовували:

  • фішингові кампанії;
  • перехоплення Wi-Fi у готелях;
  • захоплення акаунтів у WhatsApp.

Водночас Claude залучали практично на кожному етапі операції.

ЧИТАЙТЕ ТАКОЖ:

За даними Anthropic, хакери також за допомогою ШІ створили систему, яка автоматично перевіряла, чи виявляють захисні програми шкідливий код. Якщо система знаходила такий код, вона змінювала його, щоб обійти захист.

Компанія зазначає, що в таких атаках люди дедалі частіше виконують роль наглядачів, а не безпосередніх операторів. Це дозволяє зловмисникам автоматизувати значно більшу частину кібероперацій.

Anthropic також виявила використання Claude у військових програмах Росії, Китаю та Ємену. Модель застосовували для роботи, пов’язаної з ракетами, безпілотниками та боєприпасами, а також для розвідки й закупівель.

Керівник відділу аналізу кіберзагроз Anthropic Джейкоб Кляйн зазначив, що зростання можливостей ШІ створює нові ризики. За його словами, сучасні моделі вже значно краще дають раду із завданнями на кшталт оптимізації дронів або розроблення програмного забезпечення для ракет, ніж ще рік тому.

Як повідомляв ІМІ, в OpenAI попередили про неконтрольований розвиток ШІ та закликали до спільних правил.