Учёные из Apple представили новый инструмент. Он называется GenCtrl. Это формальный набор для проверки управляемости.
Инструмент оценивает пределы контроля. Он работает с любой моделью. Не требует специальных допущений.
Генеративные модели повсюду. Все хотят их контролировать. Но возможно ли это в принципе?
Исследователи применили теорию управления. Они проверили языковые модели и генераторы изображений. Результаты удивили.
Управляемость оказалась хрупкой. Она сильно зависит от условий. Универсального контроля не существует.
Теперь есть инструмент для анализа. Практикам не нужна сложная теория. Достаточно указать свою задачу.
Работа опубликована на конференции ICLR. Исходный код выложили на GitHub. Это первый формальный подход к проблеме.
