PRIMA DI PROCEDERE LEGGI QUESTA SEZIONE
Una spiegazione serve a farci capire perché un sistema di intelligenza artificiale ha preso una certa decisione o ha dato un certo risultato.
Immagina che un’AI dica: “Secondo me questo studente avrà un rendimento alto all’esame.”
Tu potresti chiederti: “Perché proprio alto? Cosa ha portato a questa conclusione?”
Le spiegazioni aiutano a rispondere a questa domanda.
-
Spiegazione globale: Guarda tutte le decisioni dell’AI e cerca di spiegare come ragiona in generale. (es. in media, lo studio conta più del sonno, la TV incide poco, ecc.).
Esempio di spiegazione globale:

-
Spiegazione locale: mostra quali caratteristiche hanno pesato di più (es. ha studiato molto, ha dormito bene, ecc.) ma per il caso specifico. Ad esempio per uno studente le ore di sonno o di studio impattano di più rispetto a un altro studente e così via.
Esempio di spiegazione locale:

Esempio di spiegazione controfattuale:
Ore di studio: da 2.5 a 5.6
Ore su Netflix: da 3 a 1