O Papa Leão XIV apresentou esta segunda-feira a sua primeira encíclica sobre IA. Ele convidou Christopher Olah da Anthropic para falar. Sem precedentes. O Vaticano está apertando a mão do Vale do Silício. Realmente apertando as mãos. Para chegar lá temos que ver como a Anthropic começou.
Por que Antrópico?
- Os pesquisadores da OpenAI foram embora. Dario Amodei e sua irmã Daniela partiram para abrir seu próprio laboratório. Eles acreditavam que os modelos estavam ficando poderosos demais. A lógica da competição não funciona mais. A velocidade mata as nuances.
A Anthropic construiu sua marca com base na segurança de IA. Eles querem controle. Orientação ética. Isso leva à IA Constitucional. Imagine um sistema treinado por uma constituição de princípios, e não apenas remendado quando faz algo perigoso.
Como eles convergiram
Não foi acidental. Olah estava no Vaticano intencionalmente. A Santa Sé queria deixar de ser apenas um observador moral e começar a falar diretamente com as pessoas que constroem o código.
O verdadeiro trabalho começou em 2020. A Chamada de Roma pela Ética em IA. A Pontifícia Academia para a Vida associou-se à Microsoft e à IBM. Transparência. Inclusão. Responsabilidade. Palavras-chave padrão, claro, mas o contexto mudou. Rápido. ChatGPT explodiu. Os EUA e a China correram. A Big Tech ficou assustadoramente poderosa.
O Vaticano percebeu que a ética tecnológica agora diz respeito à sobrevivência humana. Antrópico se encaixa perfeitamente. Enquanto outros perseguem o crescimento, a Anthropic usa a “segurança” como um distintivo.
O círculo do Papa observou o alinhamento da IA de perto.
O papel de Olah
Christopher Olah é do tipo quieto. Menos ruído de mídia que o Amodeis. Mais teoria. Mais filosofia. Ele estuda interpretabilidade do modelo. Basicamente, tentando espiar dentro da caixa preta das redes neurais.
“Transformar redes neurais em algoritmos compreensíveis para os humanos.”
Esse é o seu objetivo. Combina perfeitamente com as preocupações de Leão XIV. Construir coisas grandes demais para serem compreendidas é arriscado. Perigoso.
Os contatos provavelmente esquentaram durante as cúpulas globais de IA. O Vaticano gosta de empresas que admitem que não conseguem resolver isto sozinhas. A encíclica repete o ponto. A tecnologia não é neutra. Algoritmos carregam visão de mundo. A Anthropic tenta inserir valores diretamente no modelo.
Medo compartilhado. Grande. Sistemas moldados pelo lucro e pela geopolítica e não pelo bom senso.
Reputação como Produto
Também é um negócio. Para Antrópico.
Conversar com o Papa aumenta a credibilidade. “Empresa ética de IA” vende confiança. Especialmente agora, quando a IA aborda trabalho, espiões e bombas. Claude, o bot deles, é baseado em uma linguagem de segurança. Responsabilidade. A ética faz parte do pacote.
Humanidade “Magnífica”
A encíclica chama os humanos de magníficos. Mas capaz de desumanização. IA não é má. É um espelho.
O Papa adverte contra uma nova Babilônia Digital. Tudo reduzido a dados. Desempenho. Eficiência. A verdade perde.
Ele ataca duramente a concentração de poder privado. Atores transnacionais segurando a rédea. Quem controla o modelo? Quem escolhe os critérios de treinamento?
Olah quebrou o protocolo na apresentação. Admiti. Até as empresas éticas estão presas a incentivos económicos e geopolíticos. Às vezes, esses incentivos entram em conflito com fazer o que é certo. Ele disse que a indústria não pode se auto-regular. Período.
A Hiroshima do século 21
A analogia da bomba atômica está cansada. Mas relevante. As armas nucleares eram controladas pelo Estado. IA é privada.
Essa é a principal reclamação do Papa. O poder tecnológico agora parece corporativo.
Ambos os lados – o pessoal da segurança do Vaticano e da IA – preocupam-se com a mesma coisa. Incentivos distorcidos.
Talvez a “Hiroshima do século 22” não seja um estrondo. Talvez esteja quieto. Automação lenta. Humanos terceirizando seu pensamento. A escolha deles. Seu relacionamento.
Magnífica humanitas. Poderia ficar terrível?
Veremos.
