OpenAI, яка розробила ChatGPT, платитиме від $200 до $20 тис. за знайдені вразливості

Фото – REUTERS

Компанія OpenAI оголосила про запуск програми винагород, за допомогою якої люди можуть повідомляти про слабкі сторони, помилки або проблеми безпеки, які вони виявляють під час використання її продуктів. Про це повідомляє AIN.ua з посиланням на Bloomberg.

Компанія виплачуватиме грошову винагороду, залежно від розміру виявлених помилок, починаючи від $200 за те, що вона називає “виявленнями низької серйозності”, до $20 тис. за “виняткові відкриття”.

Також компанія заявила, що одна з причин, чому вона запускає програму, полягає в тому, що в OpenAI вважає “прозорість і співпрацю” ключовими для пошуку вразливостей у її технологіях.

“Ця ініціатива є невіддільною частиною нашої відданості розробленню безпечного та передового ШІ. Оскільки ми створюємо безпечні, надійні та надійні технології та послуги, нам потрібна ваша допомога”, – йдеться в дописі в блозі, написаному керівником служби безпеки OpenAI Метью Найтом.

Сторінка Bugcrowd для програми винагород OpenAI детально описує низку проблем безпеки, пов’язаних з моделями, які не мають права на винагороду, зокрема підказки про втечу з в’язниці, запитання, які призводять до того, що модель штучного інтелекту пише шкідливий код, або запити, які призводять до того, що модель говорить погані речі користувачеві.

Як повідомляв ІМІ, адміністрація Байдена почала вивчати можливі способи регулювання штучного інтелекту (ШІ) на кшталт ChatGPT через вплив таких систем на національну безпеку й освіту.

Наприкінці березня Ілон Маск, Стів Возняк та група інших експертів зі штучного інтелекту та очільників індустрії опублікували відкритого листа із закликом до піврічної паузи в розробленні систем, потужніших за GPT-4, нещодавно запущений OpenAI. Автори листа посилаються на потенційні ризики таких розробок для суспільства й людства.

У відповідь засновник компанії Microsoft Білл Гейтс заявив, що призупинення розроблення штучного інтелекту (ШІ) не розв'яже проблем, які можуть виникнути. 

Італія розпочала розслідування щодо ChatGPT через підозру в порушенні правил збирання даних.

ChatGPT (Generative Pre-trained Transformer) – це чат-бот зі штучним інтелектом, розроблений у листопаді 2022 року каліфорнійською компанією OpenAI, дослідницькою компанією штучного інтелекту, за підтримки Microsoft. Бот може генерувати тексти на задану тему та відповідати на запитання користувачів.