Capire come è stata ottenuta una determinata previsione, perché l'algoritmo ci suggerisce una certa decisione? Queste sono le domande essenziali che hanno dato vita al campo delle spiegazioni degli algoritmi di Artificial Intelligence. Avere una buona comprensione della logica dell'algoritmo utilizzato è essenziale in diversi contesti, sia per ragioni legali che etiche.
In questo incontro parleremo della tecnica LIME, che permette di ottenere spiegazioni per qualsiasi tipo di algoritmo di Machine/Deep Learning.
Per introdurre il tema delle spiegazioni, parleremo di come ogni modello di Machine Learning può essere interpretato come una superficie geometrica, in un preciso spazio multidimensionale. Questa nozione sarà utile per capire LIME da un punto di vista geometrico, e per comprendere come la il framework di spiegazione sia valido per qualsiasi architettura di Machine Learning.
Entreremo poi nel dettaglio del metodo, spiegando i vari step che compongono LIME e mostrando come vengono effettivamente ottenute le spiegazioni.

Speaker: Giorgio Visani PhD Student at Università di Bologna

Meetup della Community di Deep Learning Italia