Дослідження Microsoft: використання ШІ знижує критичне мислення

Штучний інтелект (ШІ) може послаблювати критичне мислення користувачів і робити їх менш розумними. Про це свідчать дані нового дослідження Microsoft, повідомляє Live Science.

Автори дослідження з Microsoft і Університету Карнеґі-Меллона опитали працівників у сферах бізнесу, освіти, мистецтва, адміністрування й комп’ютерних наук і з’ясували, що ті, хто найбільше довіряє ШІ-асистентам, найменш критично осмислюють запропоновані ними результати.

Як пише видання, сам по собі цей факт не надто дивний, але він підкреслює пастку, яку приховує зростання присутності ШІ в повсякденному житті: що більше довіри здобувають інструменти машинного навчання, то вища ймовірність, що вони створюватимуть небезпечний контент, який люди не помічатимуть. 

Дослідники представлять свої висновки на Конференції з людських факторів у комп’ютерних системах наприкінці квітня, а також опублікують статтю (яка ще не пройшла рецензування) на сайті Microsoft.

“Неправильне застосування технологій справді може призвести до погіршення когнітивних здібностей, які слід було б зберігати. Один із ключових іронічних наслідків автоматизації полягає в тому, що, механізуючи повсякденні завдання і залишаючи людині виняткові випадки, ми позбавляємо її можливості постійно тренувати власне судження й розвивати когнітивні навички. Як наслідок, ці здібності атрофуються, і людина виявляється неготовою до дій, коли винятковий випадок стається”, – пишуть дослідники. 

У межах дослідження вчені звернулися до 319 фахівців, які заробляють своїми знаннями, через краудсорсингову платформу Prolific.

Респондентів – від соціальних працівників до програмістів – попросили навести три приклади використання генеративного ШІ (зокрема, ChatGPT) у своїй роботі. Далі їх запитали, чи застосовували вони критичне мислення під час виконання цих завдань і якщо так, то як саме. Також їх попросили оцінити, скільки зусиль у них пішло б на роботу без ШІ й наскільки впевнено вони могли б її виконати.

Результати показали різке зниження критичного оцінювання отриманих від ШІ відповідей: учасники заявили, що в 40% випадків узагалі не застосовували критичне мислення.

Це дослідження, пише видання, лише один із прикладів дедалі очевиднішого впливу цифрової залежності на людське мислення. Найактивніші користувачі ChatGPT, наприклад, настільки звикають до чат-бота, що відчувають “синдром скасування” під час тривалої відсутності взаємодії з ним. А короткі відео на кшталт контенту в TikTok зменшують здатність людей до зосередження уваги й гальмують розвиток нейронних мереж, пов’язаних з обробленням інформації й самоконтролем.

Ці наслідки особливо помітні серед молоді, яка активно використовує ШІ для написання есе й уникнення потреби самостійно аналізувати інформацію.

Це не нова проблема: ефект Google, коли користувачі “делегують” знання пошуковику, відомий уже багато років. Але нові дані знову нагадують: важливо ретельно обирати, які мисленнєві завдання ми передаємо машинам, що схильні до помилок. Інакше ми ризикуємо втратити здатність виконувати їх самостійно.

“Дані свідчать про зміну характеру когнітивного навантаження: працівники дедалі частіше переходять від самостійного виконання завдань до нагляду за роботою ШІ. Попри те що ШІ може підвищити ефективність роботи, він також знижує активність критичного мислення – особливо в рутинних або менш важливих завданнях, де користувачі повністю покладаються на нього. Це викликає занепокоєння щодо довгострокової залежності й ослаблення здатності самостійно розв’язувати проблеми”, – зазначають дослідники.

Як повідомляв ІМІ, шахраї використали штучний інтелект для імітації голосу міністра оборони Італії Ґвідо Крозетто та його команди, щоб переконати провідних бізнесменів країни переказати гроші за кордон.

Марія Ігнатьєва, Валентина Троян