Компания OpenAI объявила о начале поиска нового исполнительного директора, который займёт должность главы отдела готовности. Основная задача руководителя — системное изучение и оценка возникающих рисков, связанных с развитием технологий искусственного интеллекта.
В сферу ответственности нового руководителя войдёт анализ потенциальных угроз в широком спектре областей. Среди них — компьютерная безопасность, включая риски взлома и вредоносного использования ИИ, а также влияние технологий на ментальное здоровье людей. Должность предполагает создание и внедрение фреймворков для оценки безопасности перед запуском новых моделей.
Этот шаг отражает растущую озабоченность в индустрии и среди регуляторов по поводу непреднамеренных последствий развития ИИ. Ранее OpenAI уже создала команду по безопасности, но новая позиция подчёркивает усиление фокуса на проактивном управлении рисками, а не только на их устранении.
Назначение специалиста такого уровня может стать важным прецедентом для всей отрасли, задав новые стандарты ответственности при разработке передовых систем искусственного интеллекта.
