Papst Leo XIV. hat an diesem Montag seine erste AI-Enzyklika vorgelegt. Er lud Christopher Olah von Anthropic als Redner ein. Beispiellos. Der Vatikan schüttelt dem Silicon Valley die Hand. Wirklich Händeschütteln. Um dorthin zu gelangen, müssen wir uns ansehen, wie Anthropic begann.
Warum anthropisch?
- OpenAI-Forscher gingen weg. Dario Amodei und seine Schwester Daniela machten sich auf den Weg, um ihr eigenes Labor zu eröffnen. Sie glaubten, dass Modelle zu mächtig würden. Die Wettbewerbslogik funktioniert nicht mehr. Geschwindigkeit tötet Nuancen.
Anthropic baute seine Marke auf KI-Sicherheit auf. Sie wollen Kontrolle. Ethische Anleitung. Dies führt zu verfassungsmäßiger KI. Stellen Sie sich ein System vor, das auf Prinzipien basiert und nicht nur dann ausgebessert wird, wenn es etwas Gefährliches tut.
Wie sie zusammenkamen
Es war kein Zufall. Olah war absichtlich im Vatikan. Der Heilige Stuhl wollte aufhören, nur ein moralischer Beobachter zu sein, und direkt mit den Leuten sprechen, die den Kodex erstellen.
Die eigentliche Arbeit begann im Jahr 2020. Der Rome Call for AI Ethics. Die Päpstliche Akademie für das Leben hat sich mit Microsoft und IBM zusammengetan. Transparenz. Aufnahme. Rechenschaftspflicht. Sicherlich Standard-Schlagworte, aber der Kontext hat sich verschoben. Schnell. ChatGPT explodierte. Die USA und China traten gegeneinander an. Big Tech wurde unheimlich mächtig.
Der Vatikan erkannte, dass es bei der Tech-Ethik nun um das Überleben des Menschen ging. Anthropic passt perfekt. Während andere nach Wachstum streben, trägt Anthropic „Sicherheit“ wie ein Abzeichen.
Der Kreis des Papstes beobachtete die Anpassung der KI genau.
Olahs Rolle
Christopher Olah ist der ruhige Typ. Weniger Medienrauschen als die Amodeis. Mehr Theorie. Mehr Philosophie. Er untersucht Modellinterpretierbarkeit. Im Grunde geht es darum, einen Blick in die Blackbox neuronaler Netze zu werfen.
„Neuronale Netze in für Menschen verständliche Algorithmen umwandeln.“
Das ist sein Ziel. Es passt perfekt zu den Sorgen Leos XIV. Es ist riskant, Dinge zu bauen, die zu groß sind, um sie zu verstehen. Gefährlich.
Während globaler KI-Gipfeltreffen dürfte es zu einer Verärgerung der Kontakte kommen. Der Vatikan mag Unternehmen, die zugeben, dass sie das Problem nicht alleine lösen können. Die Enzyklika wiederholt diesen Punkt. Technik ist nicht neutral. Algorithmen tragen die Weltanschauung. Anthropic versucht, Werte direkt in das Modell zu integrieren.
Geteilte Angst. Großer. Systeme, die eher von Profit und Geopolitik als von gesundem Menschenverstand geprägt sind.
Reputation als Produkt
Es ist auch ein Geschäft. Für Anthropic.
Ein Gespräch mit dem Papst stärkt die Glaubwürdigkeit. „Ethisches KI-Unternehmen“ verkauft Vertrauen. Besonders jetzt, wo KI mit Arbeitskräften, Spionen und Bomben in Berührung kommt. Claude, ihr Bot, basiert auf Sicherheitssprache. Verantwortung. Ethik ist Teil des Pakets.
„Großartige“ Menschheit
Die Enzyklika nennt den Menschen „großartig“. Dennoch zur Entmenschlichung fähig. KI ist nicht böse. Es ist ein Spiegel.
Der Papst warnt vor einem neuen Digitalen Babylon. Alles auf Daten reduziert. Leistung. Effizienz. Die Wahrheit verliert.
Er greift die private Machtkonzentration scharf an. Transnationale Akteure halten die Leine. Wer kontrolliert das Modell? Wer wählt die Trainingskriterien aus?
Olah hat bei der Präsentation gegen das Protokoll verstoßen. Habe es zugegeben. Selbst ethische Unternehmen sind in wirtschaftlichen und geopolitischen Anreizen gefangen. Manchmal stehen diese Anreize im Widerspruch zum richtigen Handeln. Er sagte, die Branche könne sich nicht selbst regulieren. Zeitraum.
Das Hiroshima des 21. Jahrhunderts
Die Atombomben-Analogie ist veraltet. Aber relevant. Atomwaffen standen unter staatlicher Kontrolle. KI ist privat.
Das ist der Hauptkritikpunkt des Papstes. Technologische Macht sieht jetzt unternehmerisch aus.
Beide Seiten – der Vatikan und die KI-Sicherheitsleute – machen sich über dasselbe Sorgen. Verzerrte Anreize.
Vielleicht wird das „Hiroshima des 22. Jahrhunderts“ kein Knaller. Vielleicht ist es ruhig. Langsame Automatisierung. Der Mensch lagert sein Denken aus. Ihre Wahl. Ihre Beziehung.
Magnifica humanitas. Könnte es schrecklich werden?
Wir werden sehen.
