У Google пояснили, чому ШІ Gemini зображував нацистів темношкірими та азійцями

Штучний інтелект Gemini компанії Google зображував нацистів як темношкірих та азійців через недоліки алгоритму, який не враховує контексту й іноді виконує команди неякісно, пояснив старший віцепрезидент компанії з питань знань та інформації компанії Прабхакар Рагхаван, передає LIGA.net.

Ця технологія, яка використовується в чатботі, мала створювати різноманітні фотографії людей, але з'ясувалося, що вона не показує достовірного представлення різних етнічних груп. 

Крім того, Google намагається зробити так, щоб технологія Gemini не генерувала насильницьких або відверто сексуальних зображень реальних людей. Компанія бере до уваги різні етнічні групи й характеристики людей на зображеннях. Однак, як з'ясувалося, Gemini не видавала результатів на запити, які стосуються білих людей.

Як повідомляв ІМІ, у разі запиту на зображення німецьких солдатів часів Другої світової війни Gemini генерувала зображення темношкірих та азійців у німецькій формі. У разі запитів на зображення "батьків-засновників Америки" чатбот показував фотографії небілих людей, не дотримуючись історичної достовірності.

Після цього Google тимчасово заблокував здатність свого ШІ Gemini (раніше Bard) генерувати зображення людей.

Тепер на запити зобразити людину Gemini відповідає так:

"Ми працюємо над здатністю Gemini генерувати зображення людей. Ця функція має бути відновлена невдовзі; ми повідомимо вам про оновлення, коли його буде запущено".