Paus Leo XIV presenteerde maandag zijn eerste AI-encycliek. Hij nodigde Christopher Olah van Anthropic uit om te spreken. Ongeëvenaard. Het Vaticaan schudt Silicon Valley de hand. Echt handen schudden. Om daar te komen moeten we kijken naar hoe Anthropic begon.
Waarom antropisch?
- OpenAI-onderzoekers liepen weg. Dario Amodei en zijn zus Daniela vertrokken om hun eigen laboratorium te beginnen. Ze vonden dat modellen te krachtig werden. Competitielogica werkt niet meer. Snelheid doodt nuance.
Anthropic bouwde zijn merk op AI-veiligheid. Ze willen controle. Ethische begeleiding. Dit leidt tot Constitutionele AI. Stel je een systeem voor dat getraind is door een verzameling principes, en niet alleen maar gepatcht wordt als het iets gevaarlijks doet.
Hoe ze samenkwamen
Het was niet toevallig. Olah was opzettelijk in het Vaticaan. De Heilige Stoel wilde niet langer slechts een morele waarnemer zijn, maar rechtstreeks gaan praten met de mensen die de code opstelden.
Het echte werk begon in 2020. De Rome Call for AI Ethics. De Pauselijke Academie voor het Leven werkte samen met Microsoft en IBM. Transparantie. Inclusie. Verantwoordelijkheid. Standaard modewoorden, zeker, maar de context veranderde. Snel. ChatGPT is geëxplodeerd. De VS en China raceten. Big Tech werd eng krachtig.
Het Vaticaan besefte dat de technische ethiek nu over het overleven van de mens ging. Antropische pasvorm perfect. Terwijl anderen groei nastreven, draagt Anthropic ‘veiligheid’ als een insigne.
De kring van de paus hield de AI-uitlijning nauwlettend in de gaten.
Olah’s rol
Christopher Olah is het rustige type. Minder mediaruis dan de Amodeis. Meer theorie. Meer filosofie. Hij doet onderzoek naar modelinterpreteerbaarheid. Kortom, proberen in de zwarte doos van neurale netwerken te kijken.
“Transformeer neurale netwerken in algoritmen die voor mensen begrijpelijk zijn.”
Dat is zijn doel. Het sluit perfect aan bij de zorgen van Leo XIV. Dingen bouwen die te groot zijn om te begrijpen is riskant. Gevaarlijk.
De contacten zijn waarschijnlijk verhit geraakt tijdens mondiale AI-topconferenties. Het Vaticaan houdt van bedrijven die toegeven dat ze dit niet alleen kunnen oplossen. De encycliek herhaalt dit punt. Technologie is niet neutraal. Algoritmen dragen een wereldbeeld over. Anthropic probeert waarden rechtstreeks in het model te bakken.
Gedeelde angst. Grote. Systemen gevormd door winst en geopolitiek in plaats van door gezond verstand.
Reputatie als product
Het is ook zakelijk. Voor antropisch.
Praten met de paus vergroot de geloofwaardigheid. ‘Ethisch AI-bedrijf’ verkoopt vertrouwen. Vooral nu, wanneer AI te maken krijgt met arbeid, spionnen en bommen. Claude, hun bot, is gebouwd op veiligheidstaal. Verantwoordelijkheid. Ethiek is onderdeel van het pakket.
“Magnifieke” mensheid
De encycliek noemt mensen “magnifiek**. Maar toch in staat tot ontmenselijking. AI is niet slecht. Het is een spiegel.
De paus waarschuwt voor een nieuw Digitaal Babylon. Alles gereduceerd tot data. Prestatie. Efficiëntie. De waarheid verliest.
Hij pakt de particuliere machtsconcentratie hard aan. Transnationale actoren houden de touwtjes in handen. Wie controleert het model? Wie bepaalt de opleidingscriteria?
Olah brak het protocol tijdens de presentatie. Toegegeven. Zelfs ethische bedrijven zitten gevangen in economische en geopolitieke prikkels. Soms botsen die prikkels met het goede doen. Hij zei dat de industrie niet zelfregulerend kan zijn. Periode.
Het Hiroshima van de 21e eeuw
De analogie met de atoombom is moe. Maar relevant. Kernwapens werden door de staat gecontroleerd. AI is privé.
Dat is het grootste bezwaar van de paus. Technologische macht ziet er nu zakelijk uit.
Beide partijen – het Vaticaan en de AI-veiligheidsmensen – maken zich zorgen over hetzelfde. Vertekende prikkels.
Misschien zal het ‘Hiroshima van de 22e eeuw’ geen knaller zijn. Misschien is het stil. Langzame automatisering. Mensen besteden hun denken uit. Hun keuze. Hun relatie.
Magnifica humanitas. Zou het verschrikkelijk kunnen worden?
We zullen zien.
