Инженеры Pinterest перестроили систему ранжирования. Они отказались от классической модели Two-Tower. Это улучшило качество рекомендаций.
Модель Two-Tower работала быстро. Она сравнивала векторы пользователя и товара. Но она была слишком простой.
Она не видела детали взаимодействия. Например, сколько раз пользователь кликнул на рекламу. Это снижало точность.
Нужна была более сложная модель. Она должна анализировать данные одновременно. Но это замедлило бы систему.
Команда столкнулась с проблемой. Нужно было добавить тяжёлую модель на GPU. При этом нельзя было увеличивать задержку.
Они перепроектировали весь конвейер. Просто вставить новый блок было нельзя. Это убило бы скорость.
Главной проблемой стал сбор признаков. Для десятков тысяч кандидатов это занимало много времени. Сеть не справлялась.
Решение было комплексным. Оптимизировали каждый этап. Переписали логику загрузки данных.
Результат оказался успешным. Новая архитектура заработала. Задержка осталась прежней, а качество выросло.
