Білий дім США обмежив експорт моделі штучного інтелекту Mythos від компанії Anthropic. Однією з причин стали підозри, що до неї отримало доступ угруповання, пов’язане з Китаєм, повідомляє Semafor з посиланням на обізнане джерело.
Адміністрація Трампа 12 червня наказала Anthropic зробити Mythos та її споживацьку версію Fable 5 доступними лише для громадян США. У такий спосіб використання цієї моделі було б заборонене навіть співробітникам Anthropic, які є громадянами інших країн. Компанія вирішила повністю прибрати моделі з ринку.
Anthropic жорстко контролювала реліз Mythos, який було запущено у квітні, надавши доступ лише обраній низці компаній, які могли використовувати її для закриття безпекових прогалин. Розробники прагнули впевнитися, що потужності моделі не потраплять до рук хакерів. Anthropic заявляла, що Mythos становить небезпеку для громадськості через свою здатність знаходити помилки в комп’ютерному коді, які можуть бути використані зловмисниками.
Видання зазначає, що невідомо, як Білий дім дізнався про китайський слід, яка організація отримала доступ до моделі і як. Але якщо китайський уряд мав доступ до Mythos, це могло б створити ризики для національної безпеки США. Китай також міг би спробувати скопіювати модель.
Тиждень тому Anthropic запустила Fable 5 – версію Mythos із захисними бар’єрами, які запобігають її використанню в цілях кібербезпеки, – для широкого загалу.
13 червня радник Трампа Девід Сакс у дописі на X зазначив, що уряд отримав попередження про те, що Fable 5 могли зламати з метою зняти з неї запобіжники. Сакс стверджує, що, коли адміністрація Трампа повідомила Anthropic про це, співзасновник і генеральний директор Anthropic Даріо Амодеї заявив, що злам не є серйозним ризиком, і відмовився його виправляти.
Особа, близька до Білого дому, повідомила, що про злам уряд поінформували в Amazon і що генеральний директор компанії Енді Джассі контактував із членами адміністрації з цього приводу.
Сакс заявив, що адміністрація неохоче запровадила експортний контроль. Ці вимоги змусили Anthropic закрити доступ до моделей для всіх. Представник Anthropic заявив, що Білий дім не згадував про доступ Китаю до Mythos під час обговорень зламу Fable та експортного контролю. Компанія блокує доступ до своїх продуктів з території Китаю.
Представник Amazon зазначив, що “уряди часто звертаються до нас по консультації щодо потенційних безпекових ризиків. Коли такі виникають, ми не ділимося деталями цих обговорень”.
Білий дім і Сакс наразі не відреагували на звернення по коментарі.
“У минулому Anthropic завжди заявляла, що безпека має бути пріоритетом і що до неї слід ставитися надзвичайно серйозно. У цьому випадку Anthropic поставила доступ споживачів до моделі вище за безпеку”, – написав Сакс у своєму пості.
Це вже не перше протистояння Anthropic з Білим домом. Компанія лобіювала проти заходів адміністрації президента, покликаних запобігти державному регулюванню ШІ, і судиться з Пентагоном щодо використання її моделей для створення автономної зброї. Сакс стверджує, що ці попередні конфлікти не вплинули на рішення адміністрації щодо Mythos.
“Ті, хто намагається відвернути увагу і пов’язати це рішення з попередніми проблемами між Міністерством війни й Anthropic, помиляються. Адміністрація цінує технічні спроможності Anthropic і вважає, що ця проблема, хоч і серйозна, має легкий розвʼязок. М’яч на полі Anthropic”, – сказав він у дописі на X.
Як повідомляв ІМІ, співзасновник Anthropic (компанії-розробника ШІ-моделі Claude) Крістофер Олаг брав участь у написанні папської енцикліки про ризики штучного інтелекту.