Microsoft Research объявил о прогрессе в сжатии ИИ. Метод называется низкобитной квантизацией. Он уменьшает размер моделей.
Технология позволяет запускать сложные алгоритмы на смартфонах. Также она работает на планшетах и других гаджетах. Это устройства с ограниченной памятью.
Раньше для работы ИИ требовались мощные серверы. Теперь вычисления происходят локально. Это повышает скорость и конфиденциальность.
Разработка открывает новые возможности. ИИ сможет работать без подключения к сети. Это изменит многие приложения.
