Paus Leo XIV menyampaikan ensiklik AI pertamanya pada hari Senin ini. Dia mengundang Christopher Olah dari Anthropic untuk berbicara. Belum pernah terjadi sebelumnya. Vatikan berjabat tangan dengan Silicon Valley. Benar-benar berjabat tangan. Untuk mencapainya kita harus melihat bagaimana Anthropic dimulai.
Mengapa Antropis?
- Peneliti OpenAI pergi. Dario Amodei dan saudara perempuannya Daniela keluar untuk memulai lab mereka sendiri. Mereka percaya bahwa model menjadi terlalu kuat. Logika persaingan tidak berfungsi lagi. Kecepatan membunuh nuansa.
Anthropic membangun mereknya berdasarkan keamanan AI. Mereka menginginkan kendali. Panduan etika. Hal ini mengarah pada AI Konstitusional. Bayangkan sebuah sistem yang dilatih berdasarkan prinsip-prinsip, tidak hanya ditambal ketika melakukan sesuatu yang berbahaya.
Bagaimana Mereka Berkumpul
Itu bukan suatu kebetulan. Olah sengaja berada di Vatikan. Takhta Suci ingin berhenti hanya menjadi pengamat moral dan mulai berbicara langsung dengan orang-orang yang membangun kode etik.
Pekerjaan sebenarnya dimulai pada tahun 2020. Seruan Roma untuk Etika AI. Akademi Kepausan untuk Kehidupan bekerja sama dengan Microsoft dan IBM. Transparansi. Penyertaan. Akuntabilitas. Kata kunci standar, tentu saja, tetapi konteksnya berubah. Cepat. ChatGPT meledak. AS dan Tiongkok berlomba. Teknologi Besar menjadi sangat kuat.
Vatikan menyadari bahwa etika teknologi adalah tentang kelangsungan hidup manusia saat ini. Antropik sangat cocok. Sementara yang lain mengejar pertumbuhan, Anthropic memakai “keamanan” seperti lencana.
Lingkaran Paus mengawasi penyelarasan AI dengan cermat.
Peran Olah
Christopher Olah adalah tipe pendiam. Lebih sedikit kebisingan media dibandingkan Amodeis. Lebih banyak teori. Lebih banyak filosofi. Dia mempelajari interpretabilitas model. Pada dasarnya, mencoba mengintip ke dalam kotak hitam jaringan saraf.
“Mengubah jaringan saraf menjadi algoritme yang dapat dimengerti manusia.”
Itu tujuannya. Ini sangat cocok dengan kekhawatiran Leo XIV. Membangun sesuatu yang terlalu besar untuk dipahami itu berisiko. Berbahaya.
Kontak kemungkinan akan memanas selama pertemuan puncak AI global. Vatikan menyukai perusahaan yang mengakui bahwa mereka tidak dapat memperbaikinya sendirian. Ensiklik tersebut mengulangi poin tersebut. Teknologi tidaklah netral. Algoritma membawa pandangan dunia. Anthropic mencoba memasukkan nilai langsung ke dalam model.
Ketakutan bersama. Yang besar. Sistem dibentuk oleh keuntungan dan geopolitik, bukan karena alasan yang baik.
Reputasi sebagai Produk
Ini juga bisnis. Untuk Antropik.
Berbicara dengan Paus meningkatkan kredibilitas. “Perusahaan AI yang etis” menjual kepercayaan. Apalagi sekarang, ketika AI menyentuh tenaga kerja, mata-mata, dan bom. Claude, bot mereka, dibuat berdasarkan bahasa keselamatan. Tanggung jawab. Etika adalah bagian dari paket tersebut.
Kemanusiaan yang “Luar Biasa”.
Ensiklik tersebut menyebut manusia sebagai “luar biasa”. Namun mampu melakukan dehumanisasi. AI tidak jahat. Itu adalah cermin.
Paus memperingatkan terhadap Babel Digital yang baru. Semuanya direduksi menjadi data. Pertunjukan. Efisiensi. Kebenaran kalah.
Dia sangat menekan konsentrasi kekuasaan swasta. Aktor transnasional memegang kendali. Siapa yang mengontrol model? Siapa yang memilih kriteria pelatihan?
Olah melanggar protokol saat presentasi. Mengakuinya. Bahkan perusahaan yang beretika pun terjebak dalam insentif ekonomi dan geopolitik. Terkadang insentif tersebut berbenturan dengan tindakan yang benar. Dia mengatakan industri tidak bisa mengatur dirinya sendiri. Periode.
Hiroshima Abad ke-21
Analogi bom atom sudah membosankan. Tapi relevan. Nuklir dikendalikan oleh negara. AI bersifat pribadi.
Itulah keluhan utama Paus. Kekuatan teknologi kini tampak bersifat korporat.
Kedua belah pihak—pihak keamanan Vatikan dan AI—mengkhawatirkan hal yang sama. Insentif yang terdistorsi.
Mungkin “Hiroshima abad ke-22” tidak akan menjadi sebuah kejutan. Mungkin sepi. Otomatisasi lambat. Manusia mengalihdayakan pemikiran mereka. Pilihan mereka. Hubungan mereka.
Kemanusiaan yang Luar Biasa. Bisakah ini berubah menjadi buruk?
Kita lihat saja nanti.
