Компанія OpenAI шукає дослідника з безпеки штучного інтелекту, який допоможе створювати інструменти ШІ для аналізу і вдосконалення самих ШI-моделей. Вакансія передбачає зарплату від 295 до 445 тисяч доларів на рік, повідомляє Business Insider.
У компанії зазначають, що фахівець займатиметься захистом моделей OpenAI від так званого отруєння даних – спроб навмисно зашкодити роботі штучного інтелекту через дані, на яких той навчається.
Також майбутній співробітник зможе створювати інструменти для аналізу логіки роботи моделей ШІ та досліджувати потенційні ризики й загрози, пов’язані з їхньою поведінкою.
До його завдань входитимуть, зокрема, відстеження розвитку систем, які можуть автоматизувати роботу технічних спеціалістів, – як-от аналіз використання ШІ-інструментів для програмування.
У вакансії наголошується, що робота пов’язана з вивченням потенційних ризиків, які можуть виникнути в майбутньому, навіть якщо зараз вони ще не є актуальними.
Як зазначає Business Insider, тема так званого рекурсивного самовдосконалення штучного інтелекту останнім часом стала однією з ключових у галузі, зокрема, для компаній OpenAI й Anthropic. Йдеться про здатність систем ШІ самостійно вдосконалювати власну роботу.
Зокрема, генеральний директор DeepMind Деміс Гассабіс нещодавно заявив, що людство перебуває “на порозі сингулярності” – моменту, коли штучний інтелект почне перевершувати людський.
Крім того, пише медіа, OpenAI планує запобігати потенційним загрозам, які створює штучний інтелект. Серед інших вакансій цього напряму – спеціалісти з кібербезпекових, біологічних і хімічних ризиків, а також дослідження автономних ШІ-систем.
У компанії називають цю роботу “нагально необхідною і стратегічно важливою” як для самої OpenAI, так і для суспільства загалом.
Як повідомляв ІМІ, раніше Білий дім розглядав можливість запровадження державного нагляду за новими моделями штучного інтелекту. Зокрема, адміністрація Трампа обговорювала створення робочої групи з питань ШІ, у межах якої очільники компаній у галузі й урядовці вивчили б варіанти процедур контролю. Про ці плани Білий дім уже повідомив керівникам Anthropic, Google та OpenAI.
Проте пізніше міністерство торгівлі США видалило зі свого сайту подробиці щодо угоди з Google, xAI й Microsoft про тестування надійності їхніх моделей штучного інтелекту.