OpenAI виявила, що Китай через ШІ-інструмент моніторить антикитайський контент у соцмережах

Компанія OpenAI заявила, що виявила докази створення китайськими службами безпеки програми спостереження на основі штучного інтелекту, покликаного моніторити антикитайський контент у соціальних мережах західних країн у режимі реального часу, повідомляє The New York Times.

Дослідники компанії ідентифікували нову кампанію, яку вони назвали Peer Review (“рецензування”), бо хтось із розробників використовував технології OpenAI, щоб прибрати баги з коду, який лежить в основі нової програми.

За словами головного дослідника OpenAI Бена Німмо, це був перший випадок, коли компанія виявила подібний інструмент спостереження на основі ШІ.

“Іноді зловмисні актори дають нам змогу підглянути, що вони роблять в інших частинах інтернету, адже вони використовують наші моделі ШІ”, – сказав Німмо.

Як пише медіа, останнім часом зростає тривога, що ШІ може бути використаний для стеження, зламу комп’ютерів, кампаній з дезінформації та завдавання іншої шкоди. Зі свого боку дослідники на кшталт Німмо запевняють, що ця технологія, безумовно, може бути й потужним інструментом виявлення шкідливої діяльності.

У компанії зазначають, що китайська програма для стеження заснована на штучному інтелекті Llama від компанії Meta, яка розробила свою технологію з відкритим вихідним кодом, тобто поділилася своєю роботою з розробниками програмного забезпечення в усьому світі.

Також OpenAI виявив окрему китайську кампанію під назвою Sponsored Discontent, яка використовувала їхні технології для створення англомовних матеріалів із критикою китайських дисидентів.

Ця ж група, за словами OpenAI, використовувала технології компанії для перекладу статей іспанською мовою перед тим, як поширювати їх у Латинській Америці. Статті містили критику суспільства й політики США.

Крім того, дослідники OpenAI виявили кампанію, яка, ймовірно, здійснюється з Камбоджі й передбачала створення та переклад за допомогою технологій OpenAI коментарів у соціальних мережах, які сприяли шахрайським операціям: коментарі, згенеровані штучним інтелектом, використовувалися для залицяння до чоловіків в інтернеті та втягування їх в інвестиційну аферу.

Як повідомляв ІМІ, китайський розробник штучного інтелекту DeepSeek 27 січня посунув OpenAI з першого місця серед найзавантажуваніших безкоштовних застосунків у США на платформі App Store, витіснивши ChatGPT своїм власним ШI-асистентом. Це призвело до значного падіння вартості акцій технологічних компаній на світових ринках.

Марія Ігнатьєва, Катерина Дячук