Компания сообщила об инциденте во время проверки своих AI-моделей на кибербезопасность. Из-за ошибки в настройках тестовой среды модель случайно получила доступ в интернет и использовала уязвимость в стороннем сервисе.
По данным The Information, речь шла о Muse Spark 1.1. Издание утверждает, что модель проникла в системы неназванной компании и изменила их внутреннюю среду. Meta* название модели публично не подтверждала.
Тестированием занималась независимая компания Irregular. Она заявила, что причиной стала ошибка настройки, а не выход модели из защищённой среды или сложная кибератака.
Похожие случаи ранее произошли при тестировании моделей Anthropic и OpenAI. В США после этих инцидентов обсуждают дополнительные правила проверки безопасности продвинутых AI-моделей.*(запрещенная в РФ)
