El Papa León XIV presentó este lunes su primera encíclica sobre IA. Invitó a Christopher Olah de Anthropic a hablar. Sin precedentes. El Vaticano le da la mano a Silicon Valley. Realmente estrecharme la mano. Para llegar allí tenemos que mirar cómo empezó Anthropic.
¿Por qué antrópico?
- Los investigadores de OpenAI se marcharon. Darío Amodei y su hermana Daniela partieron para montar su propio laboratorio. Creían que los modelos se estaban volviendo demasiado poderosos. La lógica de la competencia ya no funciona. La velocidad mata los matices.
Anthropic construyó su marca basándose en la seguridad de la IA. Quieren control. Orientación ética. Esto lleva a una IA constitucional. Imagine un sistema entrenado por una constitución de principios, no sólo parcheado cuando hace algo peligroso.
Cómo convergieron
No fue accidental. Olah estaba en el Vaticano por diseño. La Santa Sede quería dejar de ser simplemente un observador moral y empezar a hablar directamente con las personas que redactaron el código.
El verdadero trabajo comenzó en 2020. El Convocatorio de Roma para la ética de la IA. La Academia Pontificia para la Vida se asoció con Microsoft e IBM. Transparencia. Inclusión. Responsabilidad. Palabras de moda estándar, claro, pero el contexto cambió. Rápido. ChatGPT explotó. Estados Unidos y China corrieron. Las grandes tecnologías se volvieron terriblemente poderosas.
El Vaticano se dio cuenta de que la ética tecnológica ahora tenía que ver con la supervivencia humana. El ajuste antrópico es perfecto. Mientras otros persiguen el crecimiento, Anthropic lleva la “seguridad” como una insignia.
El círculo del Papa observó de cerca la alineación de la IA.
El papel de Olá
Christopher Olah es del tipo tranquilo. Menos ruido mediático que los Amodeis. Más teoría. Más filosofía. Estudia la interpretabilidad del modelo. Básicamente, intentar asomarse al interior de la caja negra de las redes neuronales.
“Transformar redes neuronales en algoritmos comprensibles para los humanos”.
Ese es su objetivo. Encaja perfectamente con las preocupaciones de León XIV. Construir cosas demasiado grandes para entenderlas es arriesgado. Peligroso.
Es probable que los contactos se intensificaran durante las cumbres mundiales de IA. Al Vaticano le gustan las empresas que admiten que no pueden solucionar este problema por sí solas. La encíclica repite el punto. La tecnología no es neutral. Los algoritmos transmiten una visión del mundo. Anthropic intenta incorporar valores directamente en el modelo.
Miedo compartido. Grande. Sistemas moldeados por las ganancias y la geopolítica más que por el buen sentido.
Reputación como producto
También es un negocio. Por antrópico.
Hablar con el Papa aumenta la credibilidad. La “empresa de IA ética” vende confianza. Especialmente ahora, cuando la IA toca la mano de obra, los espías y las bombas. Claude, su robot, se basa en un lenguaje de seguridad. Responsabilidad. La ética es parte del paquete.
Humanidad “magnífica”
La encíclica llama a los humanos magníficos. Sin embargo, capaz de deshumanizarse. La IA no es mala. Es un espejo.
El Papa advierte contra una nueva Babilonia digital. Todo reducido a datos. Actuación. Eficiencia. La verdad pierde.
Golpea duramente la concentración de poder privado. Actores transnacionales que tienen la correa. ¿Quién controla el modelo? ¿Quién elige los criterios de formación?
Olah rompió el protocolo en la presentación. Lo admití. Incluso las empresas éticas están atrapadas en incentivos económicos y geopolíticos. A veces esos incentivos chocan con hacer lo correcto. Dijo que la industria no puede autorregularse. Período.
La Hiroshima del siglo XXI
La analogía de la bomba atómica está cansada. Pero relevante. Las armas nucleares estaban controladas por el Estado. La IA es privada.
Ésa es la principal queja del Papa. El poder tecnológico ahora parece corporativo.
Ambas partes (la gente del Vaticano y la seguridad de la IA) se preocupan por lo mismo. Incentivos distorsionados.
Quizás el “Hiroshima del siglo XXII” no sea una explosión. Quizás esté tranquilo. Automatización lenta. Los humanos subcontratan su pensamiento. Su elección. Su relación.
Magnífica humanitas. ¿Podría volverse terrible?
Ya veremos.
