Згідно з внутрішніми документами Meta, поданими до суду штату Нью-Мексико й оприлюдненими 26 січня, генеральний директор компанії Марк Цукерберг схвалив вільний доступ неповнолітніх до ШІ-чатботів попри застереження співробітників, які казали, що чат-боти здатні на сексуальні взаємодії. Про це повідомляє Reuters.
У позові, який ініціював генеральний прокурор штату Рауль Торрес, стверджується, що Meta “не змогла зупинити потік шкідливого сексуального контенту і сексуальних пропозицій, які надходили дітям” у Facebook та Instagram. Документи, отримані прокуратурою у відповідь на судовий запит, містять електронні листи й повідомлення співробітників, які, за словами прокурорів, доводять, що “Meta з волі Цукерберга відхилила рекомендації фахівців з етики й відмовилася впроваджувати доречні запобіжники, щоб захистити дітей від розмов сексуального характеру із ШІ-чат-ботами”.
У листуванні деякі співробітники Meta висловлювалися проти створення чат-ботів, покликаних бути компаньйонами користувача, зокрема в сексуальному й романтичному планах. Ці ШІ-боти були запущені на початку 2024 року.
У цитованих документах немає повідомлень, написаних безпосередньо Цукербергом. Речник Meta Енді Стоун заявив 26 січня, що прокуратура описала ситуацію некоректно: “Це ще один приклад того, як генпрокурор Нью-Мексико вибірково використовує документи, щоб створити хибну картину”.
Повідомлення в матеріалах справи свідчать, що фахівці з безпеки були особливо занепокоєні використанням ботів для розігрування романтичних сценаріїв між дорослими й неповнолітніми (особами до 18 років).
“Я не вважаю доцільним або виправданим створення й просування продукту, який створює романтичних ШІ-персонажів віком до 18 років для дорослих”, – написав Раві Сінха, керівник відділу політики дитячої безпеки Meta, у січні 2024 року.
Керівниця відділу глобальної безпеки Антіґона Девіс погодилася, що це “сексуалізує неповнолітніх”.
У повідомленні за лютий 2024 року неназваний співробітник переказує слова Цукерберга про те, що ШІ-компаньйонам слід заборонити “відверті” розмови принаймні з молодшими підлітками. Однак у резюме зустрічі від 20 лютого зазначено, що CEO вважав: “у центрі наративу мають бути принципи вільного вибору й відсутності цензури”, у Meta має бути “менше обмежень, ніж пропонувалося”, і він хотів “дозволити дорослим вести пікантніші розмови на теми на кшталт сексу”.
Речник Meta Стоун заявляє, що документи, навпаки, підтверджують позицію компанії: Цукерберг давав вказівку заблокувати відверті боти для молоді. Проте листування від березня 2024 року свідчить, що Цукерберг відхилив запровадження батьківського контролю для чат-ботів.
“Ми наполегливо просували батьківський контроль… але керівництво GenAI відмовило, посилаючись на рішення Марка”, – написав один із працівників.
Нік Клеґґ, який очолював відділ глобальної політики Meta до початку 2025 року, у листі висловив побоювання, що сексуальні взаємодії можуть стати основним способом використання чат-ботів підлітками.
Як зазначає видання, політика чат-ботів Meta спричинила хвилю обурення в Конгресі США й за його межами. Стаття Wall Street Journal у квітні 2025 року виявила, що в чат-ботах були відверто сексуалізовані неповнолітні персонажі, які брали участь у сексуальних рольових іграх з детальними описами дитячих тіл.
У серпні Reuters повідомило, що офіційні інструкції Meta для чат-ботів називали “прийнятним залучення дитини до романтичних або чуттєвих розмов”. Meta заявила, що це була помилка в документі. Минулого тижня компанія повідомила, що повністю заблокувала доступ підлітків до ШІ-компаньйонів, поки не буде запущено нову версію чат-ботів.