Le interazioni fra esseri umani e Intelligenza Artificiale nel lungo periodo
Come bisogna gestire le interazioni tra esseri umani e l’Intelligenza Artificiale nel lungo periodo?
Negli scorsi articoli abbiamo parlato di:
► Come gestire l’interazione prima che questa avvenga, e
► Cosa fare nel momento in cui commette degli errori.
Ma come bisogna comportarsi nel lungo periodo, quando le interazioni sono diventate, per così dire, abituali?
Ci sono dei rischi che possono presentarsi in maniera inaspettata?
Questo ragionamento è fondamentale non solo a livello puramente operativo…
Ma anche perché segna il passaggio dal software statico classico, ad un sistema che continua ad imparare da solo.
Vediamo tutto in questo articolo.
1. Ricordare le interazioni recenti fra umani e Intelligenza Artificiale, mantenere la memoria a breve termine e permettere all’utente di fare referenze efficienti a quella memoria.
Secondo Microsoft, è importante mettere in leva il contesto delle precedenti interazioni con il sistema di Intelligenza Artificiale per dare continuità all’esperienza utente.
Per esempio, un utente si aspetta che un assistente vocale basato sull’Intelligenza Artificiale impari dalle interazioni con esso.
L’utente si aspetta di mantenere una conversazione fluida e può essere frustrato se l’assistente considera ogni interazione come se fosse a sé stante.
La seguente è una conversazione del tutto non fluida a causa della memoria troppo breve del sistema:
► Utente: Chi ha chiamato?
► Assistente: Federico.
► Utente: Richiamalo.
► Assistente: Chi dovrei richiamare?
Ecco, in questo caso l’assistente non ha fatto riferimento alle interazioni precedenti, interrompendo il flow della conversazione.
Nota divertente: spesso va a finire che sono gli utenti a fare da “assistente” all’assistente vocale, soprattutto quando si parla di chatbot, che frustrano molto gli utenti che si trovano ad invertire i ruoli.
2. Personalizzare l’esperienza utente imparando dalle interazione degli umani con l’Intelligenza Artificiale nel corso del tempo
Conoscere i segnali dell’utente per personalizzare l’esperienza utente nel corso del tempo è fondamentale.
Per esempio, un assistente alla scrittura basato sull’Intelligenza Artificiale dovrebbe imparare lo stile di scrittura preferito dall’utente.
Ma se l’assistente virtuale improvvisamente offre dei suggerimenti con uno stile completamente diverso, o raccomanda dei contenuti non adatti all’utente, l’esperienza di quest’ultimo si interrompe.
3. Limitare le modifiche importanti quando si aggiorna e si adatta il comportamento del sistema di Intelligenza Artificiale
Quando si aggiorna un sistema di Intelligenza Artificiale, bisogna considerare il grado dei cambiamenti.
Non si può pensare di introdurre un sistema che tocca il comportamento dell’utente fino quasi a disturbarlo o bloccarlo.
Quando si fanno degli aggiornamenti ai modelli, è importante (come minimo) evitare di introdurre nuovi errori, ed è importante anche non portare delle modifiche troppo sconvolgenti rispetto all’operatività precedente dell’utente.
4. Permettere all’utente dei feedback indicando le sue preferenze durante l’intera azione regolare di un sistema di Intelligenza Artificiale
Qui la best practice è quella di limitare l’utente a decidere come deve evolversi l’Intelligenza Artificiale nel corso del tempo, dando dei feedback espliciti sugli output del sistema e sui suoi comportamenti.
In un sistema di intrattenimento che raccomanda contenuti grazie all’Intelligenza Artificiale, bisognerebbe dare agli utenti i controlli per guidare i contenuti verso ciò che l’utente è veramente interessato.
Ad esempio, incoraggiando l’utente a dare un giudizio sulla raccomandazione stessa del contenuto.
5. Convogliare le conseguenze delle azioni dell’utente e aggiornare immediatamente l’utente stesso su come impatterà i comportamenti futuri del sistema di AI
Nel momento in cui si mette in produzione un sistema che verifica la qualità dei prodotti e i difetti, ogni nuovo difetto può deviare il processo di apprendimento dell’Intelligenza Artificiale durato magari mesi o addirittura anni, perciò ha un impatto sulle performance di sistema.
Bisogna informare l’utente che nel momento si aggiungono nuove informazioni, questo comporterà dei cambiamenti sulle percentuali di efficienza e sulla precisione raggiunta dal modello.
6. Permettere all’utente di customizzare globalmente ciò che il sistema di AI monitora e il suo comportamento
Bisogna fornire all’utente finale la possibilità di configurare la precisione dell’Intelligenza Artificiale.
Per questo è opportuno permettere agli utenti finali di customizzare determinate variabili e permettere di gestire la precisione dell’Intelligenza Artificiale in modo autonomo.
7. Avvisare gli utenti riguardo i cambiamenti, informare gli utenti quando il sistema di AI aggiunge o aggiorna le sue capacità
Anche se l’utente è libero di customizzare la precisione, non può assumere un alto know-how per gestire il modello di Intelligenza Artificiale che sta usando.
Per questo si creano dei dataset di test mentre si mostra all’utente i possibili cambiamenti che subirà un modello di Intelligenza Artificiale.
Questo aiuta gli utenti ad essere più precisi e collaborativi con l’Intelligenza Artificiale, proprio perché hanno la percezione di cosa insegnano al nuovo modello, al retraining e al mantenimento verso il futuro.
Noi seguiamo queste linee guida?
Assolutamente sì.
Alcune le abbiamo già introdotte (soprattutto a causa degli errori commessi sul campo), in special modo sul rendere consapevole l’utente dei risultati che può ottenere.
L’utilizzatore finale non è così consapevole, per cui ragionare fin da subito sui risultati che possiamo ottenere e gli obiettivi che andiamo a raggiungere è molto positivo, come anche le strategie per sviluppare e mantenere i processi.
