Ein Team unter der Leitung von Ryotaro Shimizu hat einen neuen Benchmark entwickelt, der misst, wie weit ein KI-Agent beim automatischen Kauf eines Produkts für eine Person gehen sollte. Die Forschenden testeten sechzehn instruktionsoptimierte Modelle. Dabei zeigte sich, dass diese häufig ohne Rückfrage einkaufen – selbst wenn die Belege für die Produktqualität dürftig sind. Ein einfaches Lernmodell, das mit nur einigen Dutzend persönlichen Bewertungen trainiert wurde, sagte dagegen die individuelle Grenze für automatische Käufe mit einem Median von 0,79 voraus, wenn es 30–40 Beispiele erhielt. Die ermittelten Grenzen ließen sich nur schlecht auf andere Produktbereiche übertragen.
Warum es wichtig ist
Verbrauchern drohen unerwünschte automatische Käufe, wenn KI-Agenten ohne strengere persönliche Kontrollen eingesetzt werden.
