Компанія OpenAI заморозила плани щодо запуску еротичного режиму ChatGPT через занепокоєння працівників та інвесторів щодо впливу сексуалізованого контенту, створеного штучним інтелектом, на суспільство.
Про це повідомляє Суспільне з посиланням на газету Financial Times.
Компанія, яку оцінюють у $730 млрд, підтвердила, що запуск такого режиму відкладено на невизначений термін. В OpenAI пояснили, що спершу хочуть провести довгострокові дослідження впливу відвертого сексуального контенту та емоційної прив’язаності до ШІ, перш ніж ухвалювати рішення щодо продукту.
Проєкт під внутрішньою назвою Citron mode передбачав доступ для користувачів віком від 18 років з обов’язковою перевіркою віку. Однак система визначення віку, яку OpenAI впровадила після низки судових позовів від родин підлітків, має рівень помилок понад 10%. Це посилювало занепокоєння щодо доступу неповнолітніх.
Раніше про ці помилки й занепокоєння консультативної ради OpenAI з питань добробуту повідомляла газета The Wall Street Journal. У компанії заявили, що їхня система відповідає галузевим стандартам, але її точність і далі вдосконалюють.
Окрім репутаційних ризиків, OpenAI зіткнулася й з технічними труднощами. Моделі, які раніше навчали уникати подібного контенту, виявилося складно переналаштувати на його створення. Також виникли проблеми з очищенням навчальних даних від нелегального матеріалу.
Еротичний режим виявився особливо суперечливим нововведенням на тлі судових позовів проти соцмереж, зокрема Meta, через шкоду їхніх продуктів для дітей. Торік компанія xAI Ілона Маска активно залучала користувачів дорослим контентом, але зіткнулася з міжнародним обуренням після того, як її модель Grok генерувала сексуальні зображення реальних людей, зокрема дітей.
Проєкт еротичного режиму також викликав занепокоєння серед працівників. Вони переймалися, чи не суперечить продукт, який заохочує романтичні стосунки із ШІ, місії OpenAI забезпечити користь штучного інтелекту для всього людства.
“ШІ не має замінювати друзів чи родину – людям потрібні людські зв’язки”, – сказав колишній старший працівник компанії, який пояснив, що це питання стало однією з причин його звільнення.
Інвестори також висловлювали занепокоєння через ризики такого продукту та його порівняно невеликий потенціал для бізнесу.
Рішення вписується в ширшу стратегію OpenAI відмовитися від побічних проєктів і зосередитися на основних продуктах, об’єднуючи інструменти для продуктивності – асистентів для програмування та ChatGPT – в єдиний “суперзастосунок”. 24 березня компанія також оголосила про згортання відеогенератора Sora та соціального застосунку.
Як повідомляв ІМІ, раніше гендиректор OpenAI Сем Альтман повідомив, що в грудні 2025 року в ChatGPT дозволять еротичний контент для перевірених повнолітніх користувачів.
29 вересня 2025 року OpenAI запровадила батьківський контроль у вебверсії й мобільних застосунках ChatGPT після позову від батьків підлітка, який укоротив собі віку. Батьки стверджують, що чат-бот нібито “давав йому поради” щодо методів самоушкодження.