Der KI-Detektionsdienst Pangram kam zu dem Ergebnis, dass 99 Prozent des Textes in „Donde el agua trabaja“, dem Roman, der Perus wichtigsten Literaturpreis gewonnen hat, offenbar von einem KI-Modell generiert wurden. Die Behauptung löste in der Literaturszene eine hitzige Debatte aus. Der mexikanische Verlag Almadía erklärt, die Originalentwürfe des Autors, seine Korrespondenz und weitere Unterlagen geprüft zu haben und weiterhin davon überzeugt zu sein, dass das Buch von David Silva Rojas stammt. Die Haltung des Verlags wurde in einem Essay im The Point Magazine ausführlich dargestellt.
Pangrams Analyse beschränkte sich nicht auf den Roman. Wie die spanische Zeitung El País berichtete, stufte das Tool auch mehr als 80 Prozent der Interviewtranskripte des Autors, einen persönlichen Essay und sogar seine Instagram-Stellungnahme zu den Vorwürfen als KI-generiert ein. Kritiker des Detektors warnen, dass eine so hohe Zahl falsch positiver Ergebnisse dem Ruf von Autorinnen und Autoren schaden kann – insbesondere denen aus Minderheiten. Der Autor selbst veröffentlichte einen Essay, in dem er lateinamerikanischen Kritikern vorwarf, die Ergebnisse des Detektors als rassistisch abzutun und klischeehafte Geschichten zu bevorzugen, die Sprachmodelle leicht nachahmen können.
Wie der Verlag reagierte
Almadía gibt an, das Manuskript mit früheren Entwürfen und Notizen des Autors sowie mit E-Mail-Korrespondenz abgeglichen zu haben. Nach dieser Prüfung beschloss der Verlag, sich hinter den Preis und den Autor zu stellen. Zugleich erklärte er, dass ein Detektionstool allein nicht über Verlagsentscheidungen bestimmen sollte. Der französische Verlag Gallimard, der Pangram ebenfalls für eigene Einsendungen nutzt, will im kommenden Jahr damit beginnen, Manuskripte mit dem Tool zu prüfen. Das zeigt, dass einige Verlage trotz der Kontroverse weiterhin einen Nutzen in der Technologie sehen.
Grundsätzliche Bedenken gegenüber KI-Detektoren
In den USA warnte die Authors Guild davor, KI-Detektoren wie Pangram zur alleinigen Grundlage für Beschäftigungs- oder Verlagsentscheidungen zu machen. Nach eigenen internen Tests der Guild schnitt Pangram bei der korrekten Einstufung von Texten menschlichen Ursprungs zwar gut ab, doch die Organisation betont die Risiken, wenn man sich zu stark auf ein einzelnes Tool verlässt. Die Debatte erinnert an frühere Fälle, etwa das bestätigte KI-gestützte Gedicht von Thélyson Orélien und die Auseinandersetzungen um den Caine Prize und den Autor Jamir Nazir, der seinen Preis trotz ähnlicher Vorwürfe behalten durfte.
Warum es wichtig ist
Für Leserinnen und Leser zeigt der Streit, dass ein hoher KI-Erkennungswert die literarische Qualität eines Buches nicht automatisch infrage stellt. Für Autorinnen und Autoren unterstreicht er, wie wichtig klare Standards sind, bevor KI-Tools zur Beurteilung der Authentizität eingesetzt werden – besonders bei Stimmen aus unterrepräsentierten Gruppen.