Управління Європейського Союзу з питань штучного інтелекту не має достатніх ресурсів і повноважень, щоб ефективно оцінити ризики нової хакерської ШІ-моделі від компанії Anthropic. Про це повідомляє Politico.
Йдеться про модель Mythos, яка, пише видання, може знаходити вразливості в програмному забезпеченні ефективніше за людей. Це викликає побоювання, що в разі її широкого доступу кіберзлочинці зможуть використовувати її для атак на критичну ІТ-інфраструктуру.
Водночас Єврокомісії не вдалось отримати повний доступ до цієї моделі. Компанія Anthropic приховує її від громадськості з міркувань кібербезпеки, надаючи доступ лише обмеженому колу компаній і організацій.
За словами речника Єврокомісії Томаса Реньє, Єврокомісія наразі не входить до обмеженого переліку організацій, яким Anthropic дозволила працювати з Mythos.
Коаліція з восьми організацій з безпеки ШІ закликає терміново посилити спроможності європейського регулятора. У листі до Єврокомісії коаліція наголосила, що управління ЄС із питань ШІ потребує термінового розширення штату та виконавчих повноважень для протидії таким загрозам.
Управління ЄС із питань ШІ існує менш ніж два роки й налічує близько 140 співробітників, з яких лише 36 працюють у підрозділі безпеки. Критики вважають це недостатнім для контролю над складними сучасними моделями ШІ.
Ще однією проблемою є те, що управління ШІ є підрозділом департаменту технологій Єврокомісії. Посадовці змушені проходити кілька рівнів менеджменту, щоб дістатися політичного керівництва.
У Єврокомісії заявляють, що вже ініціювали заходи щодо посилення потенціалу управління. Зокрема, планують розширити штат і найближчим часом найняти додаткових фахівців у сфері безпеки та комплаєнсу.
Як повідомляв ІМІ, шведські та кенійські журналісти виявили порушення приватності та прозорості в роботі розумних окулярів Ray-Ban від Meta: дані користувачів, зокрема чутливі відео й розмови, аналізуються для навчання ШІ без чітких пояснень і можливості повної відмови.