OpenAI открыла вакансию safety researcher в команде Preparedness с зарплатой от $295 000 до $445 000 в год. Специалист должен готовить компанию к рискам recursive self-improvement — ситуации, когда AI помогает создавать более сильные версии самого себя.
В описании вакансии сказано, что кандидат должен уметь рассуждать о будущих проблемах, которых пока может не существовать, и быть «tasteful and strategic».
Исследователь может заниматься защитой моделей от data poisoning, инструментами для интерпретации reasoning, экспериментами по оценке рисков и отслеживанием автоматизации технических сотрудников через AI coding tools.
OpenAI уже ставила цель запустить «автоматизированного AI-исследователя» к 2028 году. На фоне быстрого прогресса coding-агентов компания усиливает команду, которая должна предотвращать крупные риски от более автономных моделей.
