Учёные из Массачусетского технологического института (MIT) представили на конференции NeurIPS 2025 исследование о рисках запоминания ИИ-моделями обезличенных медицинских данных пациентов. Они разработали практическую методику тестирования, которая оценивает, может ли модель выдать конфиденциальную информацию под целевыми запросами.
Исследование сосредоточено на фундаментальных моделях, обученных на электронных медицинских картах (EHR). Проблема возникает, когда модель вместо обобщения знаний начинает «запоминать» данные конкретного пациента, что потенциально нарушает приватность. Авторы работы подчёркивают необходимость оценки утечек именно в медицинском контексте, чтобы определить реальный риск.
Конфиденциальность в медицине — основа доверия пациента к врачу. В эпоху алгоритмов, работающих с большими данными, риск утечки информации из обезличенных наборов данных становится серьёзной проблемой. Фундаментальные модели уже известны своей склонностью к утечкам данных, что делает разработку превентивных тестов критически важной для внедрения ИИ в клиническую практику.
Разработанные тесты оценивают различные уровни неопределённости и практический риск для пациента, моделируя атаки разной сложности. Как отмечают авторы, если для извлечения данных злоумышленнику уже нужен доступ к десяткам лабораторных показателей пациента, реальный риск минимален. Цель работы — дать сообществу практические инструменты для оценки безопасности моделей перед их публикацией.
