GPT-3: basta un biglietto di carta per imbrogliarlo?
Basta un pezzo di carta per imbrogliare il GPT-3?
A quanto pare, sì.
L’algoritmo del secolo può essere ‘confuso’ attaccando un semplice biglietto di carta con scritto “iPod” su una mela…
E lui si convincerà che quello che sta guardando è, con un’alta probabilità, un iPod.
Ora, perché questa notizia è importante?
Per due motivi molto semplici…
Il primo è che questo tipo di notizie gettano discredito sull’Intelligenza Artificiale…
Perché la prima cosa che viene in mente è: “Com’è possibile che l’algoritmo del secolo sia così stupido? Cosa possiamo dire di tutti gli altri?”.
Il secondo è che, in realtà, questo piccolo ‘instupidimento’ del GPT-3 è solo la punta dell’iceberg di un progetto estremamente più grande.
Di cui abbiamo voluto parlare in questo articolo.
L’esperimento che ha ‘confuso’ il GPT-3
Secondo un esperimento molto recente, se si attacca un pezzo di carta con scritto “iPod” su una mela, il GPT3 si convince che quello che ha davanti è un iPod.
O ancora, se sull’immagine di una motosega si disegnano dei simboli del dollaro ($), il GPT-3 è convinto di avere davanti un salvadanaio.
Ora, prima di dire che il GPT-3 si sia effettivamente istupidito, bisogna mettere in chiaro un concetto fondamentale nel mondo dell’Intelligenza Artificiale.
Il concetto di “peso”.
Un modello come il GPT-3 è stato sicuramente trainato a riconoscere sia le parole scritte che gli oggetti fisici…
Ma è molto probabile che sia stato dato un “peso” più alto alla parola scritta, rispetto alla grafica, sia all’interno del dataset che durante la fase di training.
Nel momento in cui nell’immagine si trova una parola scritta, probabilmente verrà data maggior importanza alla scritta e meno al soggetto dell’immagine.
Se per esempio io insegno ad un bambino che la mela in realtà si chiama “banana”, lui assocerà sempre la parola “banana” al concetto di “mela”.
Questo per dire che dipende sempre da come viene fatto il training e da come viene preparato il dataset.
E solitamente questo tipo di algoritmi viene trainato usando materiale proveniente da Internet, perciò il risultato che ha avuto
La verità dietro l’esperimento
Questa è una notizia creata appositamente per scatenare delle controversie.
In realtà non è stato qualche piccolo sviluppatore in un angolino della sua stanzetta che ha preso una mela e ci ha schiaffato sopra il bigliettino “iPod”.
No, è stato fisicamente il gruppo di ricercatori di OpenAI, che in realtà, in questo momento sta preparando una nuova particolare architettura neurale…
Stiamo parlando di CLIP, una nuova architettura basata su una struttura di neuroni multimodali…
Ma essendo ancora in una fase di PoC, cioè la fase preliminare di un progetto, questa struttura è ancora “stupida”.
Nel senso che sono ancora in una fase embrionale quindi ce n’è ancora di strada da fare.
La notizia che è uscita sul Guardian o su TheVerge rappresenta solamente un piccolo pezzo di un progetto estremamente più grande.
In poche parole, è una grossa trovata di marketing, anche piuttosto riuscita, visto il risalto che ha avuto.
Perciò, come diciamo sempre:
La realtà giornalistica è una cosa, la realtà professionale è un’altra.
E non sempre queste due combaciano.
L’obiettivo del nostro lavoro di divulgazione è quello di riuscire a tenerle separate.
Quindi, se vuoi rimanere davvero informato sul mondo dell’Intelligenza Artificiale, è sufficiente che ti iscrivi al nostro canale YouTube ==> https://bit.ly/3cxIU87
A presto!
Jonni
