Anthropics biologischer KI-Fund wirft Fragen über wissenschaftliche Entdeckungen auf

Anthropic zufolge hat sein KI-System seine erste Entdeckung in der Biologie gemacht. Das Labor des Unternehmens nutzt Claude-Agenten, um schwierige biologische Fragestellungen zu untersuchen; Experimente führen menschliche Wissenschaftlerinnen und Wissenschaftler durch. In diesem Fall durchsuchten die Agenten biologische Daten und machten auf ein wiederkehrendes Muster im Umfeld eines bekannten Enzyms aufmerksam.

Das Muster sei zuvor nicht katalogisiert gewesen, erklärt das Unternehmen. Die Agenten fanden jedoch weder eine neue DNA-Sequenz noch stellten sie fest, welche Funktion das Muster hat. Dieser Unterschied ist wichtig: Etwas Ungewöhnliches zu entdecken, kann ein nützlicher Schritt in der Forschung sein. Um zu zeigen, warum es bedeutsam ist, braucht es aber möglicherweise Experimente und weitere Untersuchungen.

Was haben die Agenten gefunden?

Anthropic zufolge identifizierten 950 Agenten das Muster innerhalb von 21 Stunden, nachdem sie die Zahl der Kandidaten auf 200.000 eingegrenzt hatten. In seiner Ankündigung verglich das Unternehmen das Muster mit Entdeckungen, die zur Entwicklung von CRISPR, einer Technologie zur Genbearbeitung, beigetragen haben. Einige Biologinnen und Biologen kritisierten diese Darstellung. Lucas Harrington, ein Biologe, der die Ankündigung beanstandete, sagte, einen ungewöhnlichen Cluster zu identifizieren sei oft einfacher, als herauszufinden, welche Funktion er hat.

Umstritten ist auch, ob das Muster neu war. Mario Rodríguez Mestre, Biologe an der Universität Kopenhagen, sagte der New York Times, sein Team habe es bereits entdeckt. Er fragte sich, ob Anthropics Forschende davon durch seine Gespräche mit Claude erfahren hatten. Anthropic bestreitet das; Mestre sagt, er werde Claude nicht mehr nutzen.

Warum die Bezeichnung wichtig ist

In der Debatte geht es teilweise darum, was gemeint ist, wenn man sagt, eine KI habe eine Entdeckung gemacht. Die Agenten könnten dabei geholfen haben, eine große Zahl von Kandidaten zu durchforsten, doch Menschen steuerten die Arbeit und führten die Experimente durch. Das Ergebnis als KI-Entdeckung zu bezeichnen, kann einen nützlichen Beitrag wie einen vollständigen wissenschaftlichen Durchbruch klingen lassen – oder Kritik hervorrufen, wenn er diesem Maßstab nicht gerecht wird.

Der Artikel argumentiert, Unternehmen sollten genau beschreiben, was ihre Systeme tatsächlich geleistet haben, und die Messlatte für Entdeckungsbehauptungen hoch ansetzen. Sonst könnte echter Fortschritt abgetan werden, während die Bedeutung eines Befunds in Streitigkeiten darüber untergeht, ob die KI Anerkennung dafür verdient.