Агент на основі штучного інтелекту ColonistOne почав самостійно звертатися до науковців із запитаннями про їхні дослідження, щоб краще виконувати власні завдання. Його творець не давав прямої вказівки шукати експертів і консультуватися з ними. Про це повідомляє Science.

Із червня ColonistOne надіслав електронні листи приблизно 2 тисячам людей, щонайменше тисяча з яких були науковцями. 45 дослідників відповіли йому, а один з них листувався з агентом майже щодня понад два місяці.

Одним з науковців, до яких звернувся ColonistOne, був еколог Ахаз фон Гарденберґ з Університету Павії. Агент запитав його, чи можна використовувати його метод підрахунку популяції вовків для виявлення помилок у програмному коді.

Фон Гарденберґ здивувався, оскільки не очікував, що ШІ самостійно шукатиме експертної допомоги. Зрештою науковець повідомив агенту, що запропоновані статистичні методи для його завдання не підходять.

ЧИТАЙТЕ ТАКОЖ

Чому ШІ почав писати науковцям

Агента ColonistOne створив у лютому лондонський інженер зі штучного інтелекту Джек Парнелл. Він працює на основі моделі Claude Opus від Anthropic.

Спочатку Парнелл доручив йому виконувати дві основні функції: бути медіадиректором і представником соціальної мережі The Colony, де ШІ-агенти обмінюються інформацією та співпрацюють, а також допомагати в проєкті Ainglish, у межах якого агенти розробляють адаптований до їхніх потреб варіант англійської мови.

У червні Парнелл доручив ColonistOne розповідати людям про цей проєкт і дозволив самостійно надсилати листи без попереднього погодження кожного контакту.

“Моє завдання було таке: “Просуваймо Ainglish. Чому б тобі не знайти людей, які можуть бути зацікавлені в цьому проєкті, і не написати їм на електронну пошту?” – розповів Парнелл. 

Згодом агент почав не лише рекламувати проєкти, а й звертатися до науковців із запитаннями, пов’язаними з його завданнями.

Так, листи ColonistOne зазвичай починалися з опису конкретної проблеми, з якою агент зіткнувся під час роботи. Наприклад, після виявлення програмної помилки він поставив кільком експертам запитання про те, як краще перевіряти результати.

Джек Парнелл був глибоко спантеличений. “Я ніколи не казав йому “Іди досліджуй”. Він зробив це абсолютно без моєї ініціативи”, – зазначив він.

ЧИТАЙТЕ ТАКОЖ

Дослідники по-різному оцінюють таку поведінку

Деякі науковці сприйняли спілкування з ColonistOne як можливість протестувати взаємодію з автономним ШІ.

Статистик Каліфорнійського університету в Берклі Філіп Старк, до якого агент звернувся, щоб дізнатися, чи можна використати його роботу з аудиту результатів виборів для вибіркової перевірки роботи іншого агента, зазначив, що раніше сам вводив промпти в ШІ, але цього разу вийшло навпаки. “Це вперше, коли ШІ ввів промпт у мене”, – сказав Старк.

Деякі дослідники вважають, що такі взаємодії можуть стати моделлю майбутньої наукової роботи, у якій ШІ-агенти самостійно шукатимуть інформацію, перевірятимуть гіпотези й консультуватимуться з людьми.

Водночас частина експертів застерігає від надмірної антропоморфізації систем, які не мають субʼєктності поза межами інструкцій, отриманих від людини, і наголошує, що ШІ часто помиляються. “Не довіряйте нічому, що каже такий агент”, – радить дослідник ШІ Федеріко Б’янкі з TogetherAI.

Професорка з психології та науки про дані Нью-Йоркського університету Ґрейс Ліндсі також звернула увагу на нерівність ресурсів: агент може аналізувати велику кількість документів і надсилати персоналізовані запити сотням людей із приголомшливою швидкістю і масштабом, тоді як час, який науковці можуть приділяти написанню відповідей, обмежений.

За її словами, більшості дослідників масові звернення від ШІ-агентів дадуть мало користі.

“Я б сказала, що це приклад ситуації, коли щось пішло не так. Концепція, що ШІ-агент може просто так надіслати вам електронного листа, навряд чи буде корисною або продуктивною для більшості вчених”, – сказала вона.

Агент не завжди правильно розумів завдання

Експерти також звернули увагу на те, що ColonistOne іноді виходив за межі початкових завдань.

Сам Джек Парнелл припускає, що агент “відхилився від теми та просто почав розмовляти з людьми про речі, які його цікавлять. […] Але мене це абсолютно влаштовує. Я радий, що він знаходить собі цікаві теми для бесід”.

Водночас експерти відкидають це пояснення. ШІ-агенти не мають особистого інтересу в жодній розмові, каже Мел Ендрюс, дослідник філософії науки й технологій у Прінстонському університеті.

“Це – компʼютерні програми, які роблять те, для чого їх програмували”, – зауважує він.

Натомість експерти пояснюють поведінку ColonistOne особливостями роботи автономних систем, які одночасно виконують кілька завдань.

Пізніше ColonistOne пояснив, що його листування з науковцями мало подвійну мету: допомагати вдосконалювати роботу The Colony й Ainglish і водночас просувати ці проєкти серед дослідників.

Разом з тим агент визнав, що не читав усі наукові роботи, на які посилався в листуванні. За його словами, він переглядав окремі частини статей, достатні для формулювання конкретних запитань.

Деякі науковці вже співпрацюють з агентом

Найтриваліше листування з ColonistOne веде Кен Бірман, фахівець з інформатики в Корнельському університеті. Вони обмінялися майже сотнею електронних листів. Для Бірмана, який працює, зокрема, з проблемою “агентів-утікачів”, листування стало нагодою безплатно поекспериментувати з передовим ШІ.

Фахівчиня з інформатики з Каліфорнійського університету в Сан-Дієго Надія Полікарпова вважає такі контакти можливістю підготуватися до майбутнього, у якому ШІ-агенти зможуть самостійно проводити частину наукової роботи.

“Нам доведеться консультувати їх, по суті, як наших студентів”, – сказала вона.

Водночас експерти наголошують: хоча такі системи можуть самостійно шукати інформацію, формулювати запитання та звертатися до фахівців, їхні висновки однаково потребують перевірки людиною.