"Ризики для суспільства": Маск закликав призупинити розроблення систем штучного інтелекту

Фото – Reuters

Ілон Маск разом із групою експертів зі штучного інтелекту та очільників індустрії опублікував відкритого листа із закликом до піврічної паузи в розробленні систем, потужніших за GPT-4, нещодавно запущений OpenAI.

Автори листа посилаються на потенційні ризики таких розробок для суспільства й людства, пише Reuters.

Лист, оприлюднений некомерційною організацією Future of Life Institute та підписаний більш ніж тисячею людей, включно з Маском, закликає призупинити розроблення розвиненого штучного інтелекту (ШІ) до створення й запровадження спільних безпекових протоколів для таких розробок, перевірених незалежними фахівцями.

"Потужні системи ШІ варто розробляти лише після того, як ми впевнимося, що їхній вплив буде позитивним і що ми можемо впоратися з ризиками", – йдеться в листі.

Автори листа детально описують потенційну небезпеку для суспільства й цивілізації, яку становлять системи штучного інтелекту, здатні скласти конкуренцію людині, зокрема економічні й політичні негаразди, та закликали розробників співпрацювати з держслужбовцями для створення органів управління й регулювання.

Листа підписали, зокрема, гендиректор Stability AI Емад Мостак, дослідники DeepMind (дочірня компанія Alphabet), а також видатні представники галузі ШІ – Йошуа Бенджіо та Стюарт Расселл. За даними реєстру прозорості ЄС, основними спонсорами Future of Life Institute є Фонд Ілона Маска, лондонська організація ефективного альтруїзму Founders Pledge та фонд Community Foundation, розташований у Кремнієвій долині.

Незадовго до цього, у понеділок, поліція ЄС приєдналася до спільноти критиків, що ставлять під сумнів етичність і законність розвинених ШІ на кшталт ChatGPT, заявивши, що ця система може бути використана для фішингу, дезінформації та кіберзлочинів.

Маск, чия компанія з виробництва електрокарів Tesla використовує штучний інтелект у своїй системі автопілотування, останнім часом публічно висловлював свої занепокоєння щодо ШІ.

ChatGPT, запущений минулого року компанією OpenAI за підтримки Microsoft, спонукав конкурентів прискорити розроблення схожих моделей з імітації мови та мотивував інші компанії інтегрувати генеративні моделі ШІ у свою продукцію.

Генеральний директор OpenAI Сем Алтман цього відкритого листа не підписав, повідомив речник Future of Life у розмові з Reuters. В OpenAI наразі не відповіли на прохання прокоментувати.

"Лист не бездоганний, але посилає правильний сигнал: нам час призупинитися, допоки ми не здобудемо краще усвідомлення наслідків, – сказав Ґері Маркус, професор Нью-Йоркського університету, який підписав листа. – [Ці системи] можуть завдати значної шкоди… великі гравці дедалі більше приховують, чим займаються, через що суспільству стає складніше захиститися від ризиків, які можуть постати".

Як повідомляв ІМІ, влада Китаю заборонила своїм компаніям пропонувати користувачам доступ до ChatGPT.