Перед звільненням Альтмана раду директорів OpenAI попередили про важливе відкриття в галузі

Напередодні звільнення Сема Альтмана з посади СЕО OpenAI кілька дослідників компанії надіслали раді директорів листа про "потужне відкриття в галузі штучного інтелекту, яке може загрожувати людству". 

Про це повідомляє Reuters із посиланням на два обізнані джерела, передає Укрінформ. 

За словами співрозмовників видання, цей лист став одним із факторів, які призвели до звільнення Альтмана, серед яких були занепокоєння щодо комерціалізації досягнень ще до того, як будуть зрозумілими наслідки.

Судячи з наявних даних, ідеться про проєкт під назвою Q* (вимовляється як Q-Star), що може стати проривом у тривалих пошуках компанією так званого універсального штучного інтелекту (AGI) – автономної ШІ-системи, яка перевершує людину у виконанні більшості економічно цінних завдань. Маючи величезні обчислювальні ресурси, нова модель змогла вирішити певні математичні завдання, йдеться у публікації.

Дослідники вважають математику межею розвитку генеративного ШІ. Зараз він добре вміє писати і перекладати, статистично передбачаючи кожне наступне слово, а відповіді на одне й те саме запитання можуть значно відрізнятися. 

Однак набуття здатності до математики, де є лише одна правильна відповідь, означає, що алгоритм матиме більші можливості для міркувань, подібні до людського інтелекту. Це може бути застосовано, зокрема у нових наукових дослідженнях, вважають дослідники. На відміну від калькулятора, який може виконувати обмежену кількість операцій, AGI може узагальнювати, вчитися й осмислювати.

У своєму листі до ради директорів дослідники підкреслили досконалість ШІ та його потенційну небезпеку, повідомили джерела видання, не уточнюючи, про які саме проблеми безпеки йдеться в листі. 

Серед науковців давно точаться дискусії про небезпеку, яку становлять високоінтелектуальні машини, наприклад, чи можуть вони вирішити, що знищення людства відповідає їхнім інтересам.

Дослідники також звернули увагу на роботу групи "вчених зі штучного інтелекту", існування якої підтвердили численні джерела. За словами одного з учасників групи, сформованої шляхом об'єднання попередніх команд Code Gen та Math Gen, вони досліджували, як оптимізувати існуючі моделі ШІ, щоб поліпшити їхні міркування і, зрештою, виконувати наукову роботу. 

Альтман очолював зусилля, спрямовані на те, щоб зробити ChatGPT одним з найбільш швидкозростаючих програмних додатків в історії. 

У Reuters зазначають, що не змогли незалежно перевірити заявлені дослідниками можливості Q*.

Як повідомляв ІМІ, співзасновник OpenAI Сем Альтман повернеться на посаду СЕО компанії після того, як його звільнили 17 листопада. Сторони досягли принципової згоди щодо його повернення в компанію. 

Після звільнення Альтмана майже всі співробітники OpenAI погрожували звільнитися вслід за ним і перейти до Microsoft, якщо чинне керівництво компанії не подасть у відставку.