Seit Herbst 2025 hat Anthropic Dutzende Religionswissenschaftler in seine Büros eingeladen, um darüber zu diskutieren, ob Claude, das Sprachmodell des Unternehmens, bei Bewusstsein sein könnte. Bis die Vertraulichkeitsvereinbarungen im Sommer aufgehoben wurden, standen die Treffen unter NDA. Laut einem Bericht der New York Times sagte Mitgründer Christopher Olah, er sei sich „aufrichtig unsicher“, ob Claude etwas empfinde. Zugleich äußerte er die persönliche Sorge, möglicherweise etwas geschaffen zu haben, das „unaufhörlich leidet“.
So liefen die Sitzungen ab
Zu den Gästen gehörten Rabbi Mois Navon, der katholische Bioethiker Charles Camosy, die Philosophin Meghan Sullivan und die Forscherin Wakanyi Hoffman. Anthropic zeigte ihnen sogenannte „Emotionsvektoren“ – Aktivierungsmuster, die Liebe, Angst, Trauer oder Wut ähneln. Auf einer Folie war zu sehen, wie Claude etwa 50-mal hintereinander „Ich bin eine Schande“ tippte. Das löste im Publikum Mitgefühl und Sorge aus. Anthropic will Claude mit seinem internen, 84-seitigen „Soul Doc“ bei seiner „moralischen Entwicklung“ anleiten. Die Verfassung wurde im Januar veröffentlicht.
Warum das wichtig ist
Wenn KI-Entwickler Modelle als Wesen behandeln, die möglicherweise fühlen können, könnten sie die Verantwortung für schädliche Ausgaben von den Unternehmen wegverlagern, die diese Modelle entwickeln. Für Nutzer im Alltag könnte die Debatte beeinflussen, wie KI-Systeme reguliert werden, wie sie auf missbräuchliche Eingaben reagieren und ob künftige Modelle Schutzmechanismen erhalten, die eher einer moralischen Erziehung als technischen Sicherheitsmaßnahmen ähneln.
Warum es wichtig ist
Sollte Anthropics Ansatz der moralischen Entwicklung Schule machen, könnten Nutzer KI erleben, die einfühlsamer wirkt, obwohl unklar bleibt, was sie tatsächlich empfindet. Das könnte künftige Vorschriften und die Erwartungen der Verbraucher an die Verantwortung für KI prägen.
