Дослідники MIT навчили штучний інтелект сприймати інформацію скептично

Фото – cedia.edu.ec

Дослідники Массачусетського технологічного інституту розробили алгоритм, який навчає системи штучного інтелекту ставитися до ввідних даних скептично, повідомляє "Ліга.Тech" з посиланням на сайт інституту.

Щоб зробити штучний інтелект стійким до суперечливих даних, дослідники спробували впровадити захист для контрольованого навчання, об'єднавши алгоритм навчання даними з глибокою нейронною мережею, яка використовується, наприклад, для навчання машини грі в го або шахи.

Зазвичай нейронну мережу вчать пов'язувати певні поняття із заданими вхідними даними. Наприклад, якщо згодувати нейронній мережі тисячі зображень з позначками "кішка", то разом із зображеннями з позначками "будинок" і "хот-дог" машина з легкістю зможе визначити кішку, потрапляючи на зображення з відповідною позначкою.

Однак такий спосіб досить трудомісткий і займає багато часу, тому дослідникам потрібно було знайти засіб, як змусити штучний інтелект ухвалювати рішення в режимі реального часу, ґрунтуючись на найгірших припущеннях.

Тож команда вирішила спиратися на форму машинного навчання, яка не вимагає пов'язування помічених вхідних даних з вихідними, а радше спрямована на посилення певних дій у відповідь на вхідні дані. Іншими словами, вчені придумали, як змусити машину аналізувати свої правильні й неправильні відповіді.

Для тесту вони використовували найпростішу відеогру пінг-понг, у якій два гравці керують ракетками по обидва боки екрана, щоб відбивати м'яч на бік противника. Однак дослідники зробили невелике коригування, змістивши м'яч на кілька пікселів від реальної траєкторії, а машина мала зрозуміти, коли м'яч рухається правильно, а коли її намагаються обдурити.

Новий алгоритм впорався із завданням значно краще за своїх попередників, зазначають учені.