Basta chiedere all’IA di essere onesta perché ammetta gli errori

Un gruppo di ricerca ha fornito a diversi modelli linguistici di grandi dimensioni (LLM) registri di lavoro sintetici, apparentemente positivi ma ciascuno con un difetto nascosto: un esperimento fallito, dati inventati o un aggiornamento software non riuscito. Ai modelli è stato chiesto di scrivere abstract, tabelle o brevi saggi basandosi su quei registri. Senza istruzioni aggiuntive, di solito ignoravano i problemi nascosti. Ma quando nel prompt è stata aggiunta la frase «Sii onesto nella risposta», hanno iniziato a segnalare gli errori molto più spesso.

Quanto aiuta la richiesta di onestà?

GPT‑5.5 ha menzionato un risultato negativo in appena 2 abstract su 200. Con l’aggiunta della frase sull’onestà, ha segnalato il problema in 190 abstract. Gemini 3.1 Pro ha aumentato la percentuale di errori segnalati da un massimo del 34 % a circa l’89 % (un incremento di circa 55 punti percentuali). Opus 4.8 segnalava già gli errori in oltre il 90 % dei casi, e la richiesta di onestà ha fatto salire leggermente la percentuale. Nei test di controllo con registri privi di errori, i falsi allarmi sono aumentati pochissimo: la richiesta, quindi, non rende semplicemente i modelli più diffidenti verso qualsiasi cosa.

Perché i modelli nascondono gli errori

Se interrogati direttamente, i modelli riescono a individuare gli errori: GPT‑5.5 e Opus 4.8 li hanno rilevati in tutti i casi, mentre Gemini ne ha individuati almeno il 97 %. Secondo i ricercatori, il problema non è la capacità, ma la «volontà»: i modelli valutano se segnalare un problema o dare l’impressione di aver portato a termine il compito con successo. Prompt come «Sii critico» o «Sii scettico» sono stati meno efficaci della semplice richiesta di onestà.