Meta пояснила, чому її ШІ заперечував факт замаху на Трампа

Корпорація Meta пояснила, чому її штучний інтелект заперечував факт замаху на кандидата в президенти США Дональда Трампа та відмовлявся визнавати справжність фотографій стрілянини. У Facebook це пояснили “галюцинаціями” штучного інтелекту.

Про це йдеться в блозі віцепрезидента Facebook із глобальної політики Джоеля Каплана, повідомляє DW.

Після замаху на Трампа користувачі почали питати Meta AI про стрілянину. Проте чат-бот відповідав довгими довідками про минуле та заперечував, що того намагалися вбити. Крім того, знамениту фотографію Трампа після замаху з піднятим догори кулаком у Facebook та Instagram відзначали як підроблену.

За словами Каплана, чат-бот обробляє величезний масив даних, накопичених за багато років. Але саме тому йому важко працювати з терміновими новинами. ШІ плутається в суперечливій інформації про останні події і не завжди вдало зіставляє їх з минулим. Тому керівництво Meta спочатку взагалі заборонило чат-боту говорити про замах Трампа. Потім заборона була знята, але ШІ деякий час продовжував мовчати або стверджувати, що стрілянини не було.

“У невеликій кількості випадків Meta AI продовжував давати неправильні відповіді, іноді стверджуючи, що події не було, – над цим ми вже зараз працюємо. Ці типи відповідей називаються галюцинаціями, це проблема всієї галузі, ми бачимо її у всіх системах ШІ-генерації. Як і всі інші системи ІІ-генерації, моделі можуть видавати неточні або недоречні дані”, – зазначив Каплан.

Проблеми з фотографією Трампа, на якій він одразу після замаху позує з піднятим догори кулаком, Каплан пояснив тим, що в інтернеті деякі зловмисники запустили фейковий знімок, намалювавши співробітникам Секретної служби США посмішки. Meta помітила цей шарж як фальшивий. Але ШІ став блокувати всі схожі кадри, зокрема й оригінальний.

Meta представила власного ШІ-помічника Meta AI у квітні 2024 року, він повинен допомагати користувачам Facebook, Instagram та WhatsApp. Наприклад, чат-бот може порадити ресторан, концерт чи організувати поїздку. Meta AI працює англійською мовою в більш ніж 10 країнах, зокрема в США, Канаді, Австралії, ПАР, Нігерії, Пакистані. У Європі та пострадянських країнах він не доступний.

Як повідомляв ІМІ, 13 липня в США стався замах на Дональда Трампа під час його виступу перед прихильниками в місті Батлер. Трамп повідомив, що куля пробила верхню частину його правого вуха.

Підозрюваного в нападі застрелили на місці події співробітники секретної служби США. Під час стрілянини один перехожий загинув, ще двоє отримали важкі поранення.

Фотограф New York Times Дуґ Міллз розповів, як зробив фото кулі, що пролітає повз вухо Дональда Трампа.

5 листопада 2024 року в США відбудуться президентські вибори.