Новый репозиторий GitHub под названием "Awesome Mobile On-Device AI Security" был собран в качестве дорожной карты для исследований в области безопасности ИИ-моделей, работающих локально на мобильных устройствах.
Ресурс охватывает мобильные среды выполнения ИИ, включая TFLite/LiteRT, Core ML, ExecuTorch и ONNX. В нем подробно описаны поверхности атак, такие как состязательные атаки, бэкдоры, кража моделей и атаки по энергопотреблению/задержке. Перечисленные защиты включают обфускацию моделей, авторизацию, TEE и внедрение водяных знаков. Репозиторий также предоставляет дорожную карту для чтения, таксономию, открытые проблемы и перспективные направления.
Автор приглашает к обратной связи по поводу отсутствующих статей, ясности таксономии и полезности минимального пути чтения за первую неделю для начинающих.