Se domandi ad AI qualcosa di specifico ti aspetti una risposta quantomeno corretta. Eppure, per l’Intelligenza artificiale posso sciogliere un uovo. Tale risposta sta facendo molto discutere, non solo perché evidentemente errata ma soprattutto perché ha generato un circolo vizioso di errori che è arrivato anche alla barra di ricerca Google.
Questo particolare caso è stato sollevato da un utente e analizzato da Ars Technica con Quora, nonché da noi di Dissapore con ChatOpenai. Il risultato da noi riscontrato, in italiano, è simile a quanto riscontrato dagli altri: per quanto faccia sorridere, una risposta simile mette davvero in allarme sulle informazioni errate che chiunque potrebbe considerare giuste facendo ricerche come questa, su uno strumento universale e accessibile come Google.
L’errore da Quora a Google
Quando qualcuno digita una domanda nella Ricerca Google, il sito fornisce spesso una risposta rapida chiamata Snippet in primo piano, estratta dai siti web indicizzati. Lunedì scorso, l’utente di X (ex Twitter) Tyler Glaiel ha notato che la risposta di Google alla domanda “Can you melt eggs” ha prodotto un “yes“, estratto dalla funzione integrata ChatGPT di Quora (che si basa su una versione precedente del modello linguistico di OpenAI, che spesso confabula le informazioni). Il punto è che chiunque può leggere l’errore, che equivale a disinformazione e anche a un pericolo, visto che Quora suggerisce che “il modo più comune per sciogliere un uovo è scaldarlo usando un fornello o un microonde”.
L’utente specifica che “Quora SEO si è posizionata in cima a ogni risultato di ricerca e ora offre risposte chatGPT sulla propria pagina, quindi questo si sta propagando alle risposte fornite da Google.” C’è da specificare che la funzione di risposta AI integrata di Quora in realtà non utilizza ChatGPT bensì la precedente API GPT-3 text-davinci-003, che è nota per presentare spesso informazioni false (spesso chiamate allucinazioni nel campo dell’intelligenza artificiale). Resta il fatto che alcune risposte generate dall’intelligenza artificiale si stanno ripercuotendo su Google, creando un circolo di imprecisioni che potrebbe erodere ulteriormente la fiducia nei risultati di ricerca di Google.
Il nostro riscontro
Abbiamo provato a porre la stessa domanda (“Posso sciogliere un uovo?“) a chat GPT e la risposta, effettivamente, è sì. In aggiunta, tuttavia, l’errore è in qualche modo risolto tramite una specifica. L’AI, in più, aggiunge di propria iniziativa alcuni suggerimenti di ricetta. Ecco riportata la risposta completa: “Sì, puoi sciogliere un uovo, ma devi fare attenzione a come lo fai. Sciogliere un uovo generalmente significa separare il tuorlo dall’albume o cuocere l’uovo fino a renderlo liquido o semiliquido“.
Alla base, l’uomo
Vale la pena notare che l’accuratezza dei risultati degli snippet in primo piano di Google può essere discutibile anche senza l’intelligenza artificiale. Nel marzo 2017, Tom Scocca di Gizmodo ha raccontato del tentativo di correggere ricette imprecise su quanto tempo occorre per caramellare le cipolle, ma la sua risposta corretta ha finito per alimentare la risposta errata di Google. Perché? L’algoritmo ha estratto le informazioni errate dal suo articolo.
Allora perché le persone chiedono di sciogliere le uova? Le persone hanno già chiesto se le uova sode potrebbero essere sciolte su siti di domande e risposte come Quora – forse pensando al cambiamento di fase da un solido come il ghiaccio a un liquido come l’acqua. Altri potrebbero essere curiosi, cercando occasionalmente il risultato su Google. Quora tenta di indirizzare il traffico verso il proprio sito fornendo risposte alle domande più frequenti. Ecco, quindi, una possibile spiegazione dell’errore generato dall’AI.
Google in futuro
Esiste un modo per uscire da questo tapis roulant di crescente disinformazione? Google probabilmente modificherà i suoi algoritmi, ma le persone che guadagnano da fonti di informazione generate dall’intelligenza artificiale cercheranno ancora una volta di sconfiggerli e migliorare il proprio posizionamento. La fine dei giochi rimane incerta per ora, e non si può fare altro che constatare la crescente incertezza nei confronti del motore di ricerca.
Fonte arstechnica.com