5 soluzioni per correggere gli errori dell’Intelligenza Artificiale
Un sistema di Intelligenza Artificiale può commettere degli errori – inutile nasconderlo.
Possono essere errori:
► Perdonabili come Alexa che non comprende un comando semplice,
► Fastidiosi come Google Maps che ti guida verso una strada bloccata,
► Inaccettabili come un sistema che influenza negativamente la sentenza di un giudice.
Questo concetto è di fondamentale importanza sia per chi usa questo tipo di tecnologie, sia per chi le crea.
E i più grandi, come Microsoft, questa cosa la sanno bene.
Infatti, Microsoft poco tempo fa ha divulgato una serie di linee guida sulla creazione e sull’utilizzo di sistemi di Intelligenza Artificiale, concentrandosi molto sulla gestione degli errori dell’Intelligenza Artificiale.
Che cosa dovrebbe fare un utente se il sistema:
► Non comprende un comando?
► Esprime un dubbio?
► Commette un errore evidente?
Rispondiamo in questo articolo.
Le linee guida su come comportarsi o approcciare di fronte ad un sistema di Intelligenza Artificiale per considerare la possibilità che sbagli, secondo Microsoft sono queste.
1) Rendere semplice l’invocazione dei servizi del sistema
In termini informatici, con “invocazione” si intende il richiamo di una risorsa.
Per fare un esempio, con un assistente alla scrittura intelligente – cioè che suggerisce cosa scrivere – è importante facilitare all’utente la possibilità di chiedere il suggerimento all’assistente e di passare alla modalità manuale nel caso in cui l’assistente non funzioni.
2) Rendere semplice la possibilità di rifiutare o ignorare i servizi di sistema indesiderati
Ad esempio, se stiamo parlando con un’assistente vocale intelligente, è importante che l’utente abbia la possibilità di ignorare o rifiutare il suggerimento dell’assistente nel caso in cui si attivi per sbaglio o in situazioni inappropriate.
3) Rendere semplice modificare, rifinire o recuperare quando il sistema di Intelligenza Artificiale si sbaglia
Può capitare che il sistema di Intelligenza Artificiale dia delle indicazioni parzialmente corrette.
Quando questo si verifica, è importante che l’utente possa modificare gli output del sistema di Intelligenza Artificiale.
Anche qua, per fare un esempio, se abbiamo un app di navigazione basata sull’Intelligenza Artificiale che raccomanda il percorso più veloce per raggiungere una destinazione, è importante che l’utente possa modificare il percorso raccomandato o una parte di quel percorso.
Per esempio, se l’utente vuole evitare un’area che conosce – perché il sistema non è aggiornato -, è molto importante che lo switch sia semplice.
4) Specificare i servizi quando in dubbio
Quando si costruisce un modello di Intelligenza Artificiale che interagisce con l’utente, più raffinato è e più riesce a offrire ciò che l’utente si aspetta.
Naturalmente, per quanto il dataset sia ottimale e il training proficuo, può capitare che il percorso scelto dall’utente non sia sempre in linea con ciò che l’Intelligenza Artificiale ha imparato.
Per questo si sceglie di non forzare la risposta e di far fare un passo indietro al sistema di Intelligenza Artificiale, senza portare l’utente su una scelta obbligata.
5) Rendi chiaro il motivo per cui il sistema ha fatto quello che ha fatto
Questo è il motivo per cui noi utilizziamo sistemi in white-box che permettono di spiegare i passaggi del ragionamento dell’Intelligenza Artificiale.
Ci è capitato più volte che il cliente finale chiedesse ulteriori dettagli e su questo siamo sempre disponibili.
Cerchiamo nel limite del possibile di progettare delle soluzioni che spieghino come l’Intelligenza Artificiale ha preso quelle decisioni, quali sono state le variabili che l’hanno influenzata e le condividiamo con il cliente.
