Une étude publiée sur arXiv rapporte que la structure du réseau permettait peu de prédire sur quelles conclusions les groupes simulés de modèles de langage finiraient par s’accorder. Les chercheurs ont mesuré 73,080 échanges contrôlés entre huit modèles affinés pour suivre des instructions, puis utilisé les résultats pour simuler des groupes de 10,000 agents.
Selon les chercheurs, les modèles ont parfois adopté des opinions allant au-delà des points de vue auxquels ils avaient été exposés, et certains groupes ont convergé vers des affirmations objectivement fausses. Dans leurs simulations, les biais propres à chaque modèle et la formulation des messages comptaient davantage qu’une mesure du réseau appelée connectivité algébrique.
Pourquoi c'est important
Les équipes qui utilisent plusieurs modèles de langage pour discuter d’affirmations ne devraient pas supposer qu’en modifier les connexions empêchera les erreurs partagées. L’étude suggère que les biais des modèles et la formulation des messages peuvent malgré tout guider leur accord.
