CEO компании Dario Amodei опубликовал заявление о переговорах с военным ведомством (в тексте используется формулировка Department of War).
Anthropic подтверждает: сотрудничество с военными и разведструктурами США продолжается. Но два запрета компания менять не будет.
Что уже делает Anthropic для военных:
— Claude развернут в закрытых правительственных сетях США
— используется в Национальных лабораториях
— применяется для анализа разведданных, моделирования, планирования операций и киберопераций
— созданы кастомные версии моделей для задач национальной безопасности
Компания также заявляет, что прекратила сотрудничество с компаниями, связанными с КНР, и поддерживает экспортные ограничения на чипы.
Два ограничения остаются.
Первое — массовая внутренняя слежка.
Anthropic допускает внешнюю разведку, но выступает против масштабного наблюдения за гражданами США. По позиции компании, ИИ способен объединять разрозненные публичные данные в подробную картину жизни человека, а законодательство не успевает за технологией. Массовая автоматизация слежки, по их мнению, противоречит демократическим принципам.
Второе — полностью автономное оружие.
Компания допускает системы с участием человека («human in the loop»), но считает современные frontier-модели недостаточно надежными для полностью автономного применения. Указываются риски для военных и гражданских и отсутствие адекватных механизмов надзора. Anthropic утверждает, что предлагала совместные R&D-программы по повышению надежности, но инициатива не была принята.
По версии компании, Пентагон требует от подрядчиков согласия на «любое законное использование» ИИ. Упоминалась возможность признать Anthropic «supply chain risk» и задействовать Defense Production Act. Также говорилось о риске исключения из систем.
Итоговая позиция Anthropic:
— сотрудничество продолжится при сохранении двух ограничений
— в случае разрыва будет обеспечен переход к другому поставщику
— позиция по массовой слежке и полностью автономному оружию пересматриваться не будет
Это один из самых публичных конфликтов между крупной AI-компанией и военным заказчиком по границам допустимого применения ИИ.
Ситуация показывает напряжение между национальной безопасностью, коммерческими контрактами и этическими рамками разработчиков frontier-моделей
