Toto pondělí představil svou první encykliku o umělé inteligenci papež Lev XIV. Jako hostující řečník se obrátil na Christophera Olashe z Anthropic. Bezprecedentní událost. Vatikán podává ruku přátelství Silicon Valley. A to nemluvíme o formálním gestu, ale o skutečné spolupráci. Abychom pochopili, jak jsme se dostali k tomuto bodu, musíme se vrátit k počátkům Antropie.
Proč antropický?
2021 výzkumníci OpenAI opustili společnost. Dario Amodei a jeho sestra Daniela odešli, aby založili vlastní laboratoř. Jsou přesvědčeni, že modely se stávají příliš mocnými a logika tržní konkurence už nefunguje. Závod o rychlost zabíjí nuance.
Anthropic postavil svou značku na konceptu bezpečnosti AI. Potřebují kontrolu. Etické vedení. To vedlo k vytvoření přístupu Constitutional AI. Představte si systém, který se učí na základě souboru základních principů, spíše než aby byl jen záplatován poté, co udělá něco nebezpečného.
Jak se cesty sblížily
To není nehoda. Olashovo vystoupení ve Vatikánu bylo záměrné rozhodnutí. Svatý stolec už nechtěl zůstat pouze morálním pozorovatelem zvenčí, ale snažil se vstoupit do přímého dialogu s těmi, kdo píší kodex.
Skutečná práce začala v roce 2020 zveřejněním Římské adresy o etice AI. Papežská akademie pro život spojila své síly s Microsoft a IBM. Průhlednost. Inkluzivita. Odpovědnost. To jsou samozřejmě standardní klišé, ale kontext se rychle změnil. ChatGPT explodoval na trhu. USA a Čína zahájily závody ve zbrojení na poli AI. Velké technologické společnosti se staly děsivě silnými.
Vatikán si uvědomil: otázka technologické etiky je nyní přežitím lidstva. Antropický do tohoto obrázku dokonale zapadá. Zatímco jiní se honí za růstem, Anthropic nosí „bezpečnost“ jako svůj hlavní charakteristický znak.
Papežův kruh bedlivě sleduje pokrok v oblasti přizpůsobení AI.
Role Christophera Olashe
Christopher Olash je tichý muž. Je o něm méně mediálního hluku než o bratrech Amodeiových. Více teorie. Více filozofie. Studuje interpretovatelnost modelů. V podstatě se snaží nahlédnout do „černé skříňky“ neuronových sítí.
„Přeměňte neuronové sítě na algoritmy, kterým lidé porozumí.“
To je jeho cíl. Dokonale odráží obavy Lva XIV. Vytváření systémů, které jsou příliš složité na pochopení, je riskantní. Nebezpečný.
Kontakty pravděpodobně zesílí během globálních summitů o AI. Vatikán oceňuje společnosti, které uznávají, že tento problém nelze vyřešit samy. Encyklika tuto myšlenku opakuje. Technologie není neutrální. Algoritmy nesou určitý obraz světa. Antropic se snaží zapéct hodnoty přímo do modelu.
Obecná úzkost. Hluboký. Strach ze systémů, které jsou utvářeny spíše ziskem a geopolitikou než zdravým rozumem.
Pověst jako produkt
To je také obchodní záležitost. Pro Antropické.
Dialog s papežem zvyšuje autoritu. Koncept „etické společnosti AI“ prodává důvěru. Zvláště nyní, kdy AI proniká do oblasti práce, špionáže a zbraní. Jejich chatbot Claude je postaven na bezpečnostním jazyce. Zodpovědnost se stala součástí produktu.
“Velkolepé” lidstvo
V encyklice je muž nazýván velkolepý (magnificus). Je však také schopen dehumanizace. AI není zlo. Toto je zrcadlo.
Papež varuje před novým Digitálním Babylonem. Svět, kde všechno závisí na datech. Produktivita. Účinnost. Pravda ustupuje do pozadí.
Zvláštní pozornost je věnována koncentraci soukromé moci. Nadnárodní aktéři drží otěže. Kdo řídí model? Kdo vybírá kritéria učení?
Při prezentaci Olash porušil protokol. Připustil, že i etické společnosti jsou chyceny ekonomickými a geopolitickými pobídkami. Někdy jsou tyto pobídky v rozporu s morální povinností. Řekl: průmysl není schopen samoregulace. Tečka.
Hirošima 21. století
Analogie s atomovou bombou je otřepaná. Ale zůstává relevantní. Jaderné zbraně byly pod kontrolou státu. AI – soukromý kapitál.
To je hlavní papežova stížnost. Technologická síla je nyní korporátní.
Jak Vatikán, tak bezpečnostní experti AI se obávají stejné věci: zkreslených pobídek.
Snad nebude „Hirošima 22. století“ doprovázena výbuchem. Možná bude zticha. Pomalá automatizace. Lidstvo deleguje své myšlení. Vaše rozhodnutí. Vaše vztahy.
Magnifica humanitas (Velkolepé lidstvo). Může se to změnit v horor?
Uvidíme.
