Двоє американських дослідників зʼясували, що чат-боти на основі штучного інтелекту, запрограмовані вставляти рекламу у свої відповіді, впливають на вибір користувачів. Водночас більшість не помічає, що їхньою думкою маніпулюють, повідомляє The Conversation.

Браян Джей Тан і Кан Шін, фахівці з безпеки ШІ з Мічиганського університету, провели експеримент, у межах якого 179 користувачів мали щодня виконувати завдання за допомогою трьох чат-ботів: перший був типовим для сьогодення, другий був розроблений самими дослідниками й навчений додавати у відповіді приховану рекламу, а третій прозоро маркував пропозиції від спонсорів. Разом з тим учасники експерименту не знали, що той стосується реклами.

Версія чат-бота з прихованою рекламою радила користувачам конкретні продукти (застосунки, послуги тощо), видаючи ці пропозиції за обʼєктивні рекомендації. Багато учасників повідомили, що цей чат-бот вплинув на їхні рішення, а деякі навіть зізналися, що повністю “переклали” ухвалення рішень на ШІ.

Водночас половина учасників, які отримували відповіді з маркованими пропозиціями від спонсорів, не помітила рекламної риторики в репліках ШІ. Як зазначають дослідники, попри те, що додавання реклами зробило чат-бот на 3–4% менш ефективним у виконанні багатьох завдань, численні користувачі стверджували, що відповіді з рекламою їм подобаються більше, ніж без реклами. Вони навіть зазначали, що відповіді з рекламою здалися їм більш товариськими й кориснішими.

Автори дослідження вважають ці результати тривожними.

“Люди використовують чат-боти не лише для пошуку інформації або створення контенту. Вони звертаються до ботів з дуже різноманітними запитами, іноді такими складними, як життєві поради й емоційна підтримка. Дедалі частіше люди ставляться до чат-ботів як до компаньйонів і терапевтів – у деяких користувачів навіть розвиваються глибокі особисті стосунки із ШІ. У цих умовах легко забути, що кінцева мета компаній, які створюють ці чат-боти, – це прибуток. Тож у розробників ШІ є мотив ретельно профілювати користувачів, щоб реклама ставала ефективнішою й прибутковішою”, – застерігають вони.

Дослідники наголосили, що ШІ-чат-боти можуть робити докладні висновки про користувачів на основі взаємодій з ними й навіть випитувати в них особисту інформацію, щоб скласти точніший профіль.

“Такі автономні допити є технічно можливими, узгоджені з бізнес-моделями ШІ-компаній і вже викликали занепокоєння в регуляторів”, – зазначають автори.

Дослідники навели такі поради з розрізнення реклами у відповідях чат-ботів:

  • шукайте слова-маркери на кшталт “реклама” або “спонсор”, навіть якщо вони не впадають в око або їх складно помітити;
  • задумуйтесь, чи згаданий у відповіді продукт або бренд є загальновідомим: ШІ навчається на текстах і зображеннях з інтернету, тож інформація про популярні бренди може бути інтегрована в модель, але якщо продукт новий або маловідомий, це, ймовірно, реклама;
  • придивляйтеся до раптових змін у риториці й тональності взаємодії.