Суха Хуссейн: Впровадження бекдорів у ML-пайплайни через помилки обробки вхідних даних

Виступ на DEF CON 32, у якому дослідниця безпеки Суха Хуссейн розповідає про новий тип атак на системи машинного навчання. Замість атаки лише на модель зловмисник використовує помилки обробки вхідних даних у ML-пайплайнах, щоб непомітно впровадити бекдор.

У докладі показано, як уразливості серіалізації моделей і спеціально створені файли можуть використовуватися для компрометації ML-систем, а також наведено рекомендації щодо захисту ML-пайплайнів.