Backdoor Learning Curves: Explaining Backdoor Poisoning Beyond Influence Functions
Meetups • February 2022
Backdoor Learning Curves: Explaining Backdoor Poisoning Beyond Influence Functions
Explore more
About
Backdoor Learning Curves: Explaining Backdoor Poisoning Beyond Influence Functions
About

Gli attacchi backdoor iniettano campioni di malevoli durante la fase di addestramento, con l'obiettivo di forzare un modello di apprendimento automatico a produrre una classe scelta dall'attaccante quando viene presentato un trigger specifico al momento del test. Anche se gli attacchi backdoor sono stati dimostrati efficaci contro una larga varietà di modelli, i fattori che ne influenzano la loro efficacia non sono ancora ben compresi.
In questo lavoro, forniamo un quadro unificante per studiare il processo di apprendimento delle backdoor sotto la lente del “incremental learning” e delle funzioni di influenza.
Mostriamo che l'efficacia degli attacchi backdoor dipende da: (i) la scelta degli iperparametri del modello; (ii) la frazione di campioni di backdoor iniettati nei dati di addestramento; e (iii) le caratteristiche del trigger. Questi fattori influenzano la velocità con cui un modello impara a correlare la presenza del trigger backdoor con la classe di destinazione.
Infine, la nostra analisi rivela anche l'intrigante esistenza di una regione nello spazio degli iperparametri che rende il modello più robusto agli attacchi, suggerendo così nuovi criteri per migliorare le difese esistenti.

Speaker:
Antonio Emanuele Cinà Ph.D. at Ca' Foscari University of Venice

Language
Italian
Level
Intermediate
Length
52 minutes
Type
About the speaker
About the speaker
Community Deep Learning Italia
CommunityDeep Learning Italia
La community di Deep Learning Italia affronta temi legati esclusivamente alla progettazione e implementazione di Reti Neurali e il Deep Learning nell'Intelligenza Artificiale di oggi. Il Meetup di DLI nasce dall'esigenza di sopperire alla carenza di meetup tecnici sul Deep Learning in Italia mentre ormai se ne contano molteplici in altre città del mondo come Londra, Amsterdam e San Francisco. Il Meetup sarà orientato sia alla ricerca accademica e che al mondo delle startup.
Details
Language
Italian
Level
Intermediate
Length
52 minutes
Type
Related tags
Related tags