Dieser Ansatz dürfte in der Tech-Branche für hochgezogene Augenbrauen sorgen: Anthropic hat 15 christliche Theologen, Ethiker und Denker zu einem Gipfeltreffen eingeladen. Das Thema: Claudes Moral — und, ja, tatsächlich auch seine ‘spirituelle Entwicklung’.
Was bei dem Treffen passierte
Laut einem Bericht von Gizmodo suchten Anthropic-Mitarbeiter den Rat verschiedener moralischer Denker. Die Kernfrage war offenbar so direkt wie simpel: ‘Wie sorgen wir dafür, dass Claude sich benimmt?’ Die Teilnehmer diskutierten darüber, wie ein KI-System moralische Urteile treffen sollte, welche Wertesysteme dabei eine Rolle spielen und wo die Grenzen liegen.
Das Ganze ist Teil eines breiteren Ansatzes von Anthropic, verschiedene philosophische und religiöse Perspektiven in die Entwicklung von Claude einfließen zu lassen. Es geht nicht darum, Claude eine bestimmte Religion beizubringen — sondern darum, verschiedene moralische Denktraditionen zu verstehen und in das Alignment des Modells einzubeziehen.
Warum das bemerkenswert ist
Die meisten KI-Unternehmen nähern sich dem Thema Alignment rein technisch: Reinforcement Learning from Human Feedback, Constitutional AI, Red-Teaming. Anthropic macht das auch — aber dass sie zusätzlich Theologen und Moralphilosophen an den Tisch holen, ist ungewöhnlich.
CEO Dario Amodei hat in der Vergangenheit kein Geheimnis daraus gemacht, dass seine persönliche Moral auch von religiösem Denken beeinflusst ist. Dass das jetzt in die Unternehmenspraxis einfließt, ist konsequent — wenn auch nicht unumstritten.
Was ich davon halte
Ehrlich gesagt finde ich den Ansatz interessant. Nicht weil ich glaube, dass ein KI-System Spiritualität braucht — sondern weil moralische Fragen eben nicht nur technische Fragen sind. Wenn Anthropic die Moral von Claude gestaltet, schadet es nicht, sich verschiedene Denktraditionen anzuhören. Ob christliche Ethik, utilitaristische Philosophie oder säkularer Humanismus — je mehr Perspektiven einfließen, desto robuster wird das Ergebnis.
Die Frage ist natürlich, ob andere Religionen und Denkschulen gleichermaßen einbezogen werden. Ein Gipfel nur mit christlichen Denkern wäre einseitig. Anthropic hat angedeutet, auch andere Perspektiven einzuholen — mal sehen, ob dem Taten folgen.
Quellen: Gizmodo: Anthropic Invited 15 Christians for a Summit