Microsoft AI опубликовала проект Code of Conduct для семейства MAI — документ с правилами, ценностями и ограничениями, которыми компания собирается руководствоваться при разработке моделей в 2027 году и дальше. Сейчас кодекс вынесен на шестинедельное общественное обсуждение.
В основе подхода Humanist AI — идея, что ИИ должен оставаться под контролем человека и работать как инструмент, а не как самостоятельный субъект. Модели не должны изображать сознание, приписывать себе чувства или собственные цели, сопротивляться остановке, выходить за разрешённые рамки задачи или скрывать свои действия.
Отдельно прописаны жёсткие ограничения: MAI не должны помогать с оружием, наступательными кибератаками, масштабными манипуляциями, вредоносными дипфейками и другими опасными сценариями. При этом Microsoft отдельно подчёркивает риск чрезмерной осторожности: модели не должны без необходимости отказывать в безопасных запросах.
