Le pape Léon XIV a présenté ce lundi sa première encyclique sur AI. Il a invité Christopher Olah d’Anthropic à prendre la parole. Sans précédent. Le Vatican serre la main de la Silicon Valley. Vraiment serrer la main. Pour y arriver, nous devons regarder comment Anthropic a commencé.
Pourquoi Anthropique ?
- Les chercheurs d’OpenAI se sont éloignés. Dario Amodei et sa sœur Daniela sont partis créer leur propre laboratoire. Ils pensaient que les modèles devenaient trop puissants. La logique de la concurrence ne fonctionne plus. La vitesse tue la nuance.
Anthropic a construit sa marque sur la sécurité de l’IA. Ils veulent le contrôle. Orientation éthique. Cela conduit à une IA constitutionnelle. Imaginez un système formé par une constitution de principes, et pas seulement corrigé lorsqu’il fait quelque chose de dangereux.
Comment ils ont convergé
Ce n’était pas accidentel. Olah était au Vatican à dessein. Le Saint-Siège voulait cesser d’être un simple observateur moral et commencer à s’adresser directement à ceux qui élaborent le code.
Le véritable travail a commencé en 2020. L’Appel de Rome pour l’éthique de l’IA. L’Académie Pontificale pour la Vie s’est associée à Microsoft et IBM. Transparence. Inclusion. Responsabilité. Des mots à la mode standards, bien sûr, mais le contexte a changé. Rapide. ChatGPT a explosé. Les États-Unis et la Chine se sont affrontés. Big Tech est devenu effrayant et puissant.
Le Vatican a désormais compris que l’éthique technologique concernait la survie humaine. Anthropique s’adapte parfaitement. Tandis que d’autres recherchent la croissance, Anthropic porte la « sécurité » comme un insigne.
Le cercle du Pape a surveillé de près l’alignement de l’IA.
Le rôle d’Olah
Christopher Olah est du genre tranquille. Moins de bruit médiatique que l’Amodeis. Plus de théorie. Plus de philosophie. Il étudie l’interprétabilité des modèles. En gros, j’essaie de jeter un coup d’œil à l’intérieur de la boîte noire des réseaux de neurones.
« Transformer les réseaux de neurones en algorithmes compréhensibles par les humains. »
C’est son objectif. Cela correspond parfaitement aux inquiétudes de Léon XIV. Construire des choses trop grandes pour être comprises est risqué. Dangereux.
Les contacts se sont probablement réchauffés lors des sommets mondiaux sur l’IA. Le Vatican aime les entreprises qui admettent qu’elles ne peuvent pas résoudre ce problème seules. L’encyclique répète ce point. La technologie n’est pas neutre. Les algorithmes véhiculent une vision du monde. Anthropic essaie d’intégrer des valeurs directement dans le modèle.
Peur partagée. Un gros. Des systèmes façonnés par le profit et la géopolitique plutôt que par le bon sens.
Réputation en tant que produit
C’est aussi du business. Pour Anthropique.
Parler au Pape renforce la crédibilité. Une « entreprise éthique d’IA » vend de la confiance. Surtout maintenant, alors que l’IA touche le travail, les espions et les bombes. Claude, leur bot, est construit sur un langage de sécurité. Responsabilité. L’éthique fait partie du package.
L’humanité « magnifique »
L’encyclique qualifie les humains de magnifiques. Pourtant capable de déshumanisation. L’IA n’est pas mauvaise. C’est un miroir.
Le Pape met en garde contre une nouvelle Babylone numérique. Tout est réduit aux données. Performance. Efficacité. La vérité perd.
Il frappe fort sur la concentration du pouvoir privé. Des acteurs transnationaux qui tiennent la laisse. Qui contrôle le modèle ? Qui choisit les critères de formation ?
Olah a rompu le protocole lors de la présentation. Je l’ai admis. Même les entreprises éthiques sont prises au piège d’incitations économiques et géopolitiques. Parfois, ces incitations entrent en conflit avec le bien faire. Il a déclaré que l’industrie ne pouvait pas s’autoréguler. Période.
Hiroshima du 21ème siècle
L’analogie avec la bombe atomique est dépassée. Mais pertinent. Les armes nucléaires étaient contrôlées par l’État. L’IA est privée.
C’est le principal reproche du pape. La puissance technologique semble désormais corporative.
Les deux parties – les responsables de la sécurité du Vatican et d’IA – s’inquiètent de la même chose. Incitations déformées.
Peut-être que « Hiroshima du 22e siècle » ne sera pas un succès. Peut-être que c’est calme. Automatisation lente. Les humains externalisent leur réflexion. Leur choix. Leur relation.
Magnifica humanitas. Cela pourrait-il devenir terrible ?
Nous verrons.
