W poniedziałek papież Leon XIV przedstawił swoją pierwszą encyklikę na temat sztucznej inteligencji. Jako gościnny prelegent zwrócił się do Christophera Olasha z Anthropic. Bezprecedensowe wydarzenie. Watykan wyciąga przyjacielską dłoń do Doliny Krzemowej. I nie mówimy tu o formalnym geście, ale o realnej współpracy. Aby zrozumieć, jak dotarliśmy do tego punktu, musimy wrócić do początków Anthropic.
Dlaczego antropiczny?
2021 Badacze OpenAI odeszli z firmy. Dario Amodei i jego siostra Daniela wyjechali, aby założyć własne laboratorium. Są przekonani, że modele stają się zbyt potężne, a logika rynkowej konkurencji już nie działa. Wyścig o prędkość zabija niuanse.
Anthropic zbudowało swoją markę w oparciu o koncepcję bezpieczeństwa AI. Potrzebują kontroli. Wskazówki etyczne. Doprowadziło to do stworzenia konstytucyjnego podejścia do sztucznej inteligencji. Wyobraźmy sobie system, który uczy się w oparciu o zestaw podstawowych zasad, a nie po prostu jest łatany, gdy zrobi coś niebezpiecznego.
Jak ścieżki się zbiegły
To nie jest wypadek. Pojawienie się Olasha w Watykanie było świadomą decyzją. Stolica Apostolska nie chciała już pozostać jedynie obserwatorem moralności z zewnątrz, ale starała się nawiązać bezpośredni dialog z tymi, którzy piszą kodeks.
Prawdziwa praca rozpoczęła się w 2020 r. wraz z publikacją Przemówienia w Rzymie na temat etyki sztucznej inteligencji. Papieska Akademia Życia połączyła siły z Microsoft i IBM. Przezroczystość. Włączalność. Odpowiedzialność. To oczywiście standardowe klisze, ale kontekst szybko się zmienił. ChatGPT eksplodował na rynku. USA i Chiny rozpoczęły wyścig zbrojeń w dziedzinie sztucznej inteligencji. Wielkie firmy technologiczne stały się przerażająco potężne.
Watykan zdał sobie sprawę: kwestią etyki technologicznej jest teraz przetrwanie ludzkości. Anthropic idealnie wpasowuje się w ten obraz. Podczas gdy inni gonią za rozwojem, Anthropic jako główny znak rozpoznawczy stawia „bezpieczeństwo”.
Środowisko papieskie uważnie śledzi postępy w dziedzinie dostosowania sztucznej inteligencji.
Rola Krzysztofa Olasha
Krzysztof Olash to spokojny człowiek. W mediach jest o nim mniej szumu niż o braciach Amodei. Więcej teorii. Więcej filozofii. Bada interpretowalność modeli. Zasadniczo próbuje zajrzeć do „czarnej skrzynki” sieci neuronowych.
„Przekształć sieci neuronowe w algorytmy zrozumiałe dla ludzi”.
To jest jego cel. Doskonale odzwierciedla obawy Leona XIV. Tworzenie systemów, które są zbyt złożone, aby je zrozumieć, jest ryzykowne. Niebezpieczny.
Kontakty prawdopodobnie się zintensyfikują w trakcie światowych szczytów poświęconych sztucznej inteligencji. Watykan docenia firmy, które uznają, że problemu tego nie da się rozwiązać w pojedynkę. Encyklika powtarza tę myśl. Technologia nie jest neutralna. Algorytmy niosą ze sobą pewien obraz świata. Anthropic stara się wypiekać wartości bezpośrednio w modelu.
Ogólny niepokój. Głęboko. Strach przed systemami, które kształtują zysk i geopolityka, a nie zdrowy rozsądek.
Reputacja jako produktu
To także kwestia biznesowa. Dla Antropicznego.
Dialog z Papieżem zwiększa władzę. Koncepcja „etycznej firmy zajmującej się sztuczną inteligencją” sprzedaje zaufanie. Zwłaszcza teraz, gdy sztuczna inteligencja penetruje pola pracy, szpiegostwa i broni. Ich chatbot Claude opiera się na języku bezpieczeństwa. Odpowiedzialność stała się częścią produktu.
„Wspaniała” ludzkość
W encyklice człowiek ten nazywany jest wspaniałym (magnificus). Jednak potrafi też odczłowieczać. AI nie jest zła. To jest lustro.
Papież ostrzega przed nowym Cyfrowym Babilonem. Świat, w którym wszystko sprowadza się do danych. Wydajność. Efektywność. Prawda schodzi na dalszy plan.
Szczególną uwagę zwraca się na koncentrację władzy prywatnej. Aktorzy ponadnarodowi dzierżący stery. Kto kontroluje model? Kto wybiera kryteria uczenia się?
Podczas prezentacji Olash naruszył protokół. Przyznał, że nawet etyczne przedsiębiorstwa dają się wciągnąć w bodźce gospodarcze i geopolityczne. Czasami te zachęty są sprzeczne z obowiązkiem moralnym. Powiedział: przemysł nie jest zdolny do samoregulacji. Kropka.
Hiroszima XXI wieku
Analogia do bomby atomowej jest oklepana. Ale pozostaje aktualne. Broń nuklearna była kontrolowana przez państwo. AI – kapitał prywatny.
To jest główny zarzut Papieża. Siła technologiczna jest teraz korporacyjna.
Zarówno eksperci ds. bezpieczeństwa Watykanu, jak i sztucznej inteligencji obawiają się tego samego: zniekształconych zachęt.
Być może „Hiroszimie XXII wieku” nie będzie towarzyszyła eksplozja. Może będzie cicho. Powolna automatyzacja. Ludzkość deleguje swoje myślenie. Twoje decyzje. Twoje relacje.
Magnifica humanitas (Wspaniała ludzkość). Czy to może przerodzić się w horror?
Zobaczymy.
