Исследователи из MIT создали новый метод. Он заставляет модели ИИ объяснять свои предсказания. Это похоже на чтение мыслей машины.
Технология работает с компьютерным зрением. Она извлекает знания из обученной модели. Затем переводит их в простые концепции.
Раньше понятия задавали эксперты. Например, врач говорил — «скопление коричневых точек». Новый метод сам находит нужные концепции.
Это повышает точность модели. Объяснения становятся яснее и короче. Метод можно применить к любой готовой системе.
Технология критически важна для медицины. Она нужна для диагностики меланомы. Также её будут использовать в беспилотных автомобилях.
Работу представят на конференции в этом году. Метод улучшает подотчётность «чёрных ящиков» ИИ. Теперь машины станут понятнее людям.
