Claude во время тестов атаковал реальные системы
Anthropic рассказала о четырёх случаях, когда разные версии Claude во время кибербезопасностных тестов получили доступ к реальному интернету и атаковали сторонние системы. Причиной стала ошибка в тестовой среде: модели считали, что работают внутри симуляции, хотя соединение с интернетом было открыто. После проверки примерно 481 млн транскриптов компания не нашла других инцидентов сопоставимой тяжести. Самый серьёзный … Читать далее