Site icon

TUTTO NEWS

I chatbot sbagliano le risposte? Solo il 38% dei dati studiati è vero

Se usati per la cultura e la letteratura i chatbot mostrano forti limiti: quasi la metà delle risposte fornite è falsa

Student studies at a wooden desk with an open laptop showing a message about the poem 'L'infinito' by Giovanni Pascoli.

#image_title

Immagina di chiedere a un’intelligenza artificiale una riflessione profonda di Nietzsche o una poesia di Leopardi. Molto probabilmente otterrai un testo scritto benissimo, scorrevole e del tutto credibile. Peccato che, in più di un caso su due, quel pensiero o quella citazione l’IA se li sia appena inventati di sana pianta.

 

I dati dello studio sull’Intelligenza Artificiale

A svelare questo cortocircuito è una ricerca di Libreriamo, la community digitale dedicata alla cultura. Come riportato da Skuola.net, analizzando circa 1.500 conversazioni reali avute dagli utenti con i software di IA generativa più noti, è emerso un dato sorprendente: solo il 38% delle risposte sui temi culturali è corretto e verificabile. Il resto si divide tra un 18% di errori plateali e, dato più preoccupante, un 44% di risposte “plausibili”, cioè testi che sembrano veri ma non hanno alcun riscontro nei libri reali.

A risentire di questa dinamica sono soprattutto i più giovani, che usano questi strumenti per studiare o orientarsi tra concetti complessi.

 

Il paradosso: promossa in ortografia, bocciata in filosofia

I chatbot analizzati da Libreriamo sanno scrivere benissimo: quando si tratta di pura grammatica italiana, l’accuratezza sfiora il 90%. I problemi veri nascono quando si scava nei contenuti:

In pratica, la macchina tende a “indovinare” cosa avrebbe potuto scrivere un autore, creando contenuti su misura che ne banalizzano il pensiero originale. Lo studio mostra infatti come l’IA tenda a proporre sempre i soliti dieci autori (tra cui spiccano Nietzsche, Seneca, Socrate, Platone e Shakespeare), riducendoli a stereotipi o a “frasi motivazionali” da tastiera.

 

Come usare l’AI per lo studio senza rischiare fake news

Dunque, il rischio non è la tecnologia in sé, ma il fatto che scrive così bene da ingannarci. L’IA è utilissima per fare schemi o trovare spunti, ma non può sostituire lo studio vero. Per non ritrovarci con una cultura piena di fake news, l’unica soluzione è non essere pigri: usiamo pure la tecnologia, ma controlliamo sempre le fonti! 

Exit mobile version