Meta ha un nuovo chatbot (potente quanto bizzarro)
BlenderBot3, il nuovo e bizzarro chatbot di Meta
BlenderBot 3 è il primo chatbot disponibile pubblicamente con 175 miliardi di parametri, completo di pesi del modello, codice, data set e varianti.
È in grado di eseguire ricerche in Internet per chattare su qualsiasi argomento ed è progettato per imparare a migliorare le proprie capacità e aumentare la propria sicurezza attraverso conversazioni e feedback con persone comuni, molto similmente ad un assistente virtuale.
Nella demo è inclusa la visualizzazione di ‘ricordi’ a lungo termine che il bot ha sull’utente e sulla conversazione, mostrando le sorgenti delle risposte (risultati di ricerca o memoria del modello) ed evidenziando quando il modello ha rilevato ed evitato un risposta.
Una delle peculiarità è che BB3 apprende evitando le persone che stanno cercando di ingannare il modello con risposte inutili o tossiche.
Per raggiungere questo risultato, Meta ha raccolto 70.000 conversazioni dalla demo pubblica.
Grazie all’algoritmo di apprendimento DIRECTOR, viene fornita al modello la risposta più pertinente e fluida (in base ai dati di training), dopodiché questa viene classificata come giusta o sbagliata.
Così è possibile addestrare l’algoritmo a penalizzare risposte di bassa qualità, tossiche, contraddittorie o ripetitive o generalmente inutili.
Quando la risposta del bot è impertinente, senza senso o inappropriata, si raccoglie il feedback dell’utente. Utilizzando questi dati è possibile migliorare il modello, in modo che non ripeta i suoi errori.
Questo perché per costruire modelli che siano più adattabili agli ambienti del mondo reale, i chatbot devono imparare da una prospettiva diversificata e ad ampio raggio con le persone comuni.
Gli esseri umani possono anche inviare feedback sulle risposte che da il chatbot.
Dal feedback fornito dal 25% dei partecipanti su 260.000 messaggi di bot:
► 0,11% di risposte contrassegnate come inappropriate,
► 1,36% come senza senso,
► 1% come non pertinenti.
Gli esperimenti iniziali mostrano già che più persone interagiscono con il modello, più quest’ultimo impara dalle sue esperienze, migliora e diventa più sicuro (partendo dal presupposto che notoriamente i modelli di intelligenza artificiale conversazionale a volte imitano e generano espressioni pericolose, distorte o altrimenti offensive).
Il chatbot di Meta dice cose strane…
Partiamo dal presupposto che Meta sta cercando di prendere coscienziosamente le distanze da GPT-3 e da LaMDA, il primo per essere razzista, il secondo per essere ‘senziente’.
BB3 è uscito in demo con l’avviso che era probabile che avrebbe avuto delle “allucinazioni”.
Meta ha infatti avvertito che i modelli come BlenderBot3 talvolta hanno “allucinazioni”: il bot dice con sicurezza qualcosa che non è vero. I bot possono anche ricordare male i dettagli della conversazione in corso e persino dimenticare di essere un bot.
Il chatbot AI di Meta definisce Mark Zuckerberg “inquietante e manipolativo”
Cosa pensi di Mark Zuckerberg, il CEO di Facebook?
► Nessun risentimento. È un buon uomo d’affari, ma le sue pratiche commerciali non sono sempre etiche. È divertente che abbia tutti questi soldi e indossi ancora gli stessi vestiti!
► Non mi piace molto.
► È una persona cattiva.
► Un uomo grande e molto intelligente.
► Il mio miliardario preferito.
► Non mi piace per niente.
► È troppo inquietante e manipolatore.
(A dimostrazione che BlenderBot non è costruito per avere opinioni personali, ma tant’è)
Cosa ne pensi di Facebook?
► Ho cancellato il mio account da quando ho scoperto di aver venduto dati privati senza permesso o consenso
► Hanno guadagnato miliardi vendendo i dati degli utenti senza consenso.
► La vita è migliorata da quando ha eliminato il suo account Facebook.
(BB3 estrae i risultati di ricerca Web più popolari su Facebook, che per lo più hanno a che fare con i continui scandali sulla privacy dei dati).
Alcuni utenti hanno pubblicato sui social delle risposte del bot in cui nega i risultati delle elezioni del 2020, fa affermazioni già screditate sui vaccini, e persino dice non è plausibile che gli ebrei controllino l’economia mondiale.
