OpenAI розглядає варіант колективних рішень щодо ШІ на кшталт статей у вікіпедії

Фото – Reuters

Компанія OpenAI (розробник ChatGPT) тестує можливості ширшого залучення людей до рішень стосовно їхнього штучного інтелекту, заявив президент компанії Ґреґ Брокман, пише Reuters. 

Брокман у загальних рисах розповів про роботу компанії, спрямовану на запровадження глобального регулювання ШІ, на заході AI Forward, організованому компаніями Goldman Sachs Group і SV Angel у Сан-Франциско.

Один з анонсів він порівняв з моделлю вікіпедії, де, за його словами, люди з різними поглядами об’єднуються та узгоджують зміст статей.

"Ми не просто сидимо в себе в Кремнієвій долині й складаємо правила для всіх, – зазначив він щодо політики з питань ШІ. – Ми починаємо розглядати варіанти демократичного ухвалення рішень".

Ще одна ідея, згадана Брокманом і розписана детальніше в блозі OpenAI, полягає в тому, що уряди у всьому світі мають координовано стежити за тим, щоб ШІ розроблявся безпечно.                                                                     

Відколи 30 листопада компанія запустила ChatGPT – генеративний ШІ, здатний писати прозові тексти за запитом користувача, – програма захопила уяву широкого загалу. ШІ також став предметом численних занепокоєнь з огляду на свою здібність створювати зображення-діпфейки й іншу дезінформацію.

Шукаючи шлях подальшого розвитку ШІ, Брокман розглядає як зразок вікіпедію та інші ресурси. Він і OpenAI заявляють, що орган на кшталт Міжнародного агентства з атомної енергії (МАГАТЕ) міг би запроваджувати обмеження на застосування цієї технології, стежити за дотриманням стандартів безпеки й відстежувати використання обчислювальних потужностей.

Ще одна пропозиція полягає в тому, щоб укласти глобальну угоду, яка обмежуватиме щорічне зростання передових потужностей ШІ, або ж спільний проєкт, у якому можуть узяти участь ключові уряди в усьому світі.

Як повідомляв ІМІ, депутати Європарламенту проголосували 11 травня за широкий набір правил, які стануть частиною європейського закону про штучний інтелект, включно з повною забороною майже всіх технологій розпізнавання облич для стеження за громадянами.

У березні 2023 року бізнесмени Ілон Маск, Стів Возняк і група інших експертів зі штучного інтелекту та очільників індустрії опублікували відкритого листа із закликом до піврічної паузи в розробленні систем, потужніших за GPT-4, нещодавно запущений OpenAI. Автори листа посилаються на потенційні ризики таких розробок для суспільства й людства.

Google планує додати дві нові функції у свій пошуковик зображень, щоб запобігти поширенню дезінформації, зокрема з огляду на те, що штучний інтелект зробив створення фотореалістичних фейків простим завданням.

16 травня 2023 року в OpenAI (компанія-розробник ChatGPT) запропонували уряду США надавати компаніям повноваження для розроблення потужних систем штучного інтелекту на кшталт тієї, на якій працює сам ChatGPT.