En studie på arXiv visar att nätverkets struktur hade liten betydelse för att förutsäga vilka ståndpunkter simulerade grupper av språkmodeller skulle enas om. Forskarna mätte 73,080 kontrollerade utbyten mellan åtta instruktionsfinjusterade modeller och använde sedan resultaten i simuleringar med 10,000 agenter.
Modellerna ändrade ibland uppfattning till ståndpunkter som låg utanför spannet av åsikter de hade mött, och vissa grupper enades om påståenden som objektivt sett var falska, uppger forskarna. I simuleringarna spelade varje modells interna bias och hur budskapen formulerades större roll än ett nätverksmått som kallas algebraisk konnektivitet.
Varför det spelar roll
Team som låter flera språkmodeller diskutera påståenden bör inte utgå från att ändrade kopplingar mellan modellerna förhindrar gemensamma misstag. Studien tyder på att modellernas bias och hur budskapen formuleras ändå kan styra vad de enas om.
