Papa Leone XIV ha presentato questo lunedì la sua prima enciclica sull’AI. Ha invitato Christopher Olah di Anthropic a parlare. Senza precedenti. Il Vaticano stringe la mano alla Silicon Valley. Stringersi davvero la mano. Per arrivarci dobbiamo guardare a come è iniziato Anthropic.
Perché antropico?
- I ricercatori di OpenAI se ne vanno. Dario Amodei e la sorella Daniela partono per avviare il proprio laboratorio. Credevano che i modelli stessero diventando troppo potenti. La logica della concorrenza non funziona più. La velocità uccide le sfumature.
Anthropic ha costruito il proprio marchio sulla sicurezza dell’intelligenza artificiale. Vogliono il controllo. Guida etica. Ciò porta all’AI costituzionale. Immaginate un sistema formato da una costituzione di principi, e non solo rattoppato quando fa qualcosa di pericoloso.
Come sono convergenti
Non è stato casuale. Olah era in Vaticano come previsto. La Santa Sede voleva smettere di essere solo un osservatore morale e iniziare a parlare direttamente con coloro che costruivano il codice.
Il vero lavoro è iniziato nel 2020: la Rome Call for AI Ethics. La Pontificia Accademia per la Vita ha collaborato con Microsoft e IBM. Trasparenza. Inclusione. Responsabilità. Parole d’ordine standard, certo, ma il contesto è cambiato. Veloce. ChatGPT è esploso. Hanno gareggiato gli Stati Uniti e la Cina. La Big Tech è diventata spaventosamente potente.
Il Vaticano si è reso conto che ora l’etica tecnologica riguarda la sopravvivenza umana. Antropico si adatta perfettamente. Mentre altri inseguono la crescita, Anthropic indossa la “sicurezza” come un distintivo.
Il circolo del Papa ha osservato da vicino l’allineamento dell’IA.
Il ruolo di Olah
Christopher Olah è un tipo tranquillo. Meno rumore mediatico rispetto agli Amodei. Più teoria. Più filosofia. Studia l’interpretabilità dei modelli. In sostanza, provare a sbirciare dentro la scatola nera delle reti neurali.
“Trasformare le reti neurali in algoritmi comprensibili agli esseri umani.”
Questo è il suo obiettivo. Si adatta perfettamente alle preoccupazioni di Leone XIV. Costruire cose troppo grandi per essere comprese è rischioso. Pericoloso.
I contatti probabilmente si sono intensificati durante i vertici globali sull’intelligenza artificiale. Al Vaticano piacciono le aziende che ammettono di non poter risolvere il problema da sole. L’enciclica ripete il punto. La tecnologia non è neutrale. Gli algoritmi portano la visione del mondo. Anthropic cerca di inserire i valori direttamente nel modello.
Paura condivisa. Grande. Sistemi modellati dal profitto e dalla geopolitica piuttosto che dal buon senso.
Reputazione come prodotto
Sono anche affari. Per Antropico.
Parlare con il Papa aumenta la credibilità. Una “società di intelligenza artificiale etica” vende fiducia. Soprattutto ora, che l’intelligenza artificiale tocca manodopera, spie e bombe. Claude, il loro bot, si basa sul linguaggio della sicurezza. Responsabilità. L’etica fa parte del pacchetto.
“Magnifica” Umanità
L’enciclica definisce gli esseri umani magnifici. Eppure capace di disumanizzazione. L’intelligenza artificiale non è malvagia. È uno specchio.
Il Papa mette in guardia da una nuova Babilonia digitale. Tutto ridotto a dati. Prestazione. Efficienza. La verità perde.
Colpisce duramente la concentrazione del potere privato. Attori transnazionali al guinzaglio. Chi controlla il modello? Chi sceglie i criteri di formazione?
Olah ha infranto il protocollo alla presentazione. Lo ha ammesso. Anche le aziende etiche sono intrappolate negli incentivi economici e geopolitici. A volte questi incentivi si scontrano con il fare bene. Ha detto che l’industria non può autoregolamentarsi. Periodo.
L’Hiroshima del 21° secolo
L’analogia con la bomba atomica è stanca. Ma rilevante. Le armi nucleari erano controllate dallo Stato. L’intelligenza artificiale è privata.
Questa è la principale lamentela del Papa. Il potere tecnologico ora sembra aziendale.
Entrambe le parti – il Vaticano e gli addetti alla sicurezza dell’IA – si preoccupano della stessa cosa. Incentivi distorti.
Forse la “Hiroshima del 22° secolo” non sarà un successo. Forse è tranquillo. Automazione lenta. Gli esseri umani esternalizzano il loro pensiero. La loro scelta. La loro relazione.
Magnifica humanitas. Potrebbe diventare terribile?
Vedremo.
