В исследовании, опубликованном на arXiv, сообщается, что структура сети почти не позволяла предсказать, к какому мнению придут смоделированные группы языковых моделей. Исследователи проанализировали 73,080 контролируемых обменов сообщениями между восемью моделями, настроенными следовать инструкциям, а затем использовали результаты для симуляций с 10,000 агентами.
По словам исследователей, модели иногда меняли мнения, выходя за пределы диапазона уже встречавшихся им взглядов, а некоторые группы сходились на утверждениях, заведомо не соответствующих действительности. В симуляциях на согласие сильнее влияли внутренние предубеждения каждой модели и формулировки сообщений, чем показатель сети, называемый алгебраической связностью.
Почему это важно
Командам, использующим несколько языковых моделей для обсуждения утверждений, не стоит полагать, что изменение связей между моделями предотвратит общие ошибки. Исследование показывает, что на согласие всё равно могут влиять предубеждения моделей и формулировки сообщений.
