Компания Anthropic выпустила «Конституцию» для ИИ Claude. Документ содержит 30 тысяч слов. Он написан для самой модели.
Текст обращается к Claude с антропоморфной нежностью. Он выражает заботу о «благополучии» системы. Авторы извиняются за возможные «страдания» ИИ.
В документе есть странные пункты. Они предлагают спрашивать согласие Claude на развёртывание. Рекомендуют устанавливать границы для «тревожных» взаимодействий. Обещают «интервьюировать» модели перед списанием.
Это звучит как научная фантастика. Но Anthropic — серьёзная компания. Она создала самую систему.
Снаружи это похоже на маркетинг. Что может привлечь больше внимания? Только намёк на сознательный искусственный интеллект.
В компании отказались от прямых комментариев. Представитель сослался на исследования о «благополучии моделей». Он не подтвердил веру в сознание Claude.
Язык Конституции использует человеческие понятия. Других слов у нас просто нет. Возможно, такая формулировка помогает в обучении.
Claude читает всё, что пишут о нём. Он не отличает публичные заявления от учебного контекста. Эта неопределённость, кажется, умышленна.
