AI-detekteringstjänsten Pangram uppger att 99 procent av texten i ”Donde el agua trabaja”, romanen som vann Perus främsta litteraturpris, ser ut att ha genererats av en AI-modell. Påståendet har väckt en livlig debatt i litteraturkretsar. Det Mexikobaserade förlaget Almadía säger att det har granskat författarens originalutkast, korrespondens och andra dokument och fortfarande är övertygat om att boken är David Silva Rojas verk. Förlaget utvecklade sin ståndpunkt i en essä som publicerades i The Point Magazine.
Pangrams analys stannade inte vid romanen. Enligt den spanska tidningen El País markerade verktyget också mer än 80 procent av författarens intervjutranskriptioner, en personlig essä och till och med hans Instagram-inlägg där han tillbakavisar anklagelserna som AI-genererade. Kritiker av detektorn menar att så många falska positiva utslag kan skada författares anseende, särskilt författare med minoritetsbakgrund. Författaren skrev själv en essä där han anklagade latinamerikanska kritiker för att avfärda detektorns resultat som rasistiska och för att föredra klichéartade berättelser som språkmodeller lätt kan efterlikna.
Så svarade förlaget
Almadía säger att förlaget jämförde manuskriptet med författarens tidigare utkast, anteckningar och e-postväxling. Efter granskningen beslutade förlaget att stå bakom priset och författaren och slog fast att ett detekteringsverktyg inte ensamt bör avgöra publiceringsbeslut. Det franska förlaget Gallimard, som också använder Pangram för sina egna manusinskick, planerar att börja granska manus med verktyget nästa år. Det visar att vissa förlag fortfarande ser ett värde i tekniken trots kontroversen.
Större farhågor kring AI-detektorer
I USA har Authors Guild varnat för att AI-detektorer som Pangram inte bör vara den enda grunden för beslut om anställning eller utgivning. Organisationen uppger att Pangram i egna interna tester presterade väl när det gällde att korrekt identifiera texter skrivna av människor, men betonar riskerna med att förlita sig för mycket på ett enda verktyg. Debatten påminner om tidigare fall, som den bekräftat AI-assisterade dikten av Thélyson Orélien och tvisten kring Caine Prize och författaren Jamir Nazir, som fick behålla sitt pris efter liknande anklagelser.
Varför det spelar roll
För läsare visar tvisten att ett högt utslag från en AI-detektor inte automatiskt gör en bok mindre litterärt värdefull. För författare understryker den behovet av tydliga riktlinjer innan AI-verktyg används för att bedöma äkthet, särskilt när det gäller författare från underrepresenterade grupper.