Uno studio pubblicato su arXiv riferisce che la struttura della rete prediceva poco le conclusioni su cui i gruppi simulati di modelli linguistici sarebbero finiti per concordare. I ricercatori hanno analizzato 73,080 scambi controllati tra otto modelli ottimizzati per seguire istruzioni, quindi hanno usato i risultati in simulazioni con 10,000 agenti.
Secondo i ricercatori, a volte i modelli hanno spostato le proprie opinioni oltre l’intervallo delle posizioni che avevano incontrato e alcuni gruppi sono giunti a convergere su affermazioni oggettivamente false. Nelle simulazioni, i pregiudizi interni di ciascun modello e il modo in cui venivano formulati i messaggi contavano più di una misura della rete chiamata connettività algebrica.
Perché conta
I team che usano più modelli linguistici per discutere affermazioni non dovrebbero dare per scontato che cambiare i collegamenti tra i modelli impedisca errori condivisi; lo studio suggerisce che i pregiudizi dei modelli e il modo in cui vengono formulati i messaggi possono comunque orientare il consenso.
