Berliner Boersenzeitung - Dieu et l'IA: quand le Vatican s'invite à la table des géants de la tech

Au côté du prêtre, cet expert en éthique de l'intelligence artificielle (IA) de l'université catholique Santa Clara, en Californie, participe alors à une "réunion exploratoire" à la demande de l'entreprise américaine.

L'idée: évaluer si un dialogue est possible avec l'Eglise - les deux hommes sont membres d'un groupe de recherche sur l'IA lié au Vatican - afin d'"influencer positivement" les évolutions technologiques, se souvient-il.

Sept mois plus tard, le 25 mai, à trois sièges du pape dans la salle du Synode au Vatican, entouré de cardinaux et à la stupéfaction générale, est assis un non-croyant: Christopher Olah, le co-fondateur d'Anthropic en personne. Le pape Léon XIV présente la première encyclique jamais consacrée à l'IA - dans laquelle il appelle à "désarmer" l'IA pour "l'empêcher de dominer l'humain".

Il dénonce aussi la concentration du pouvoir technologique entre les mains de quelques entreprises privées, dont Anthropic… avant de laisser son patron s'exprimer.

"Certains pourraient croire que les questions d'IA sont du ressort des informaticiens comme moi. Ils se trompent", déclare le trentenaire au visage juvénile à l'assemblée réunie entre les murs de la cité-Etat.

"Nous avons besoin que davantage d'acteurs dans le monde — communautés religieuses, société civile, chercheurs, gouvernements — fassent ce que Sa Sainteté a fait ici: prendre cela au sérieux, regarder attentivement et orienter les événements dans une meilleure direction", prêche-t-il encore.

De quoi susciter un malaise au sein de l'Eglise où certains ont pointé le risque d'une forme de "pope washing", de légitimation ou de caution morale à la veille d'une entrée en bourse d'Anthropic, dont la valorisation pourrait atteindre 2.000 milliards de dollars.

Mais dans un contexte où les inquiétudes grandissent sur l'avenir de l'IA - et sa potentielle capacité à dominer le monde - jusque chez les acteurs qui la développent, le Vatican estime avoir un rôle à jouer.

- Aux "avant-postes" -

L'intérêt de l'Eglise catholique pour les questions liées à l'IA ne date pas d'hier. Dès les années 2010, sous l'impulsion du pape François, les échanges se multiplient avec des universitaires et des dirigeants de la Silicon Valley.

La première étape majeure intervient en février 2020 avec le lancement du "Rome Call for AI Ethics", texte signé entre autres par le Vatican, Microsoft et IBM. Novateur pour l'époque, il promeut une "algor-éthique" fondée sur la transparence et la protection de la vie privée.

Quatre ans plus tard, François devient le premier pape à participer à un sommet du G7. Le pontife argentin y qualifie l'IA de "révolution cognitivo-industrielle" et plaide pour que les décisions les plus sensibles restent sous contrôle humain, notamment dans le domaine militaire.

"Le Vatican a joué un rôle d'avant-poste en identifiant très tôt une tendance qui allait devenir structurante", confirme à l'AFP Eric Salobir, conseiller auprès du Saint-Siège et président de la Human Technology Foundation, qui compte parmi ses membres Google, Palantir et Qualcomm.

Mais les choses s'accélèrent vraiment avec l'arrivée de Léon XIV au printemps 2025, "un pape profondément inscrit dans la modernité" - le premier à porter une montre connectée - qui "comprend ces questions grâce à sa formation scientifique" de mathématicien, ajoute ce prêtre dominicain.

Le pontife américain, attendu en France vendredi, où il devrait évoquer le sujet lors de sa visite à l'Unesco, ne cesse de mettre en garde contre la dépendance croissante aux algorithmes.

Son encyclique "Magnifica Humanitas" (Humanité magnifique) est souvent comparée à celle de Léon XIII en 1891 sur les droits des travailleurs, qui a redéfini la doctrine sociale de l'Église catholique pendant la révolution industrielle.

Ce document majeur est le fruit d'une "stratégie du Vatican qui articule diplomatie religieuse, expertise académique - à travers notamment son vaste réseau d'universités catholiques et pontificales - et dialogue avec le monde des technologies", décrypte François Mabille, directeur de l'Observatoire géopolitique du religieux.

- Chantage -

Après la réunion de décembre 2025 dans la Silicon Valley, Brian Green et le curé sont à nouveau invités par Anthropic en janvier, et à plusieurs reprises les mois qui suivent. Ce dernier n'est pas n'importe qui: le père Brendan McGuire, qui dirige la paroisse Saint-Simon à Los Altos, en Californie, a étudié les cryptosystèmes avant de devenir cadre dans la tech puis d'entrer dans les ordres.

Cette fois, les deux hommes sont rejoints par un représentant officiel du Vatican: Mgr Paul Tighe, numéro 2 du Dicastère (ministère) pour la Culture et l'Éducation, avec lequel ils travaillent déjà depuis plusieurs années.

Les échanges - qui réunissent aussi parfois des autorités juives, musulmanes et bouddhistes - se font dans les deux sens. Anthropic, qui n'a pas répondu aux sollicitations de l'AFP, a publiquement assuré s'être appuyé sur leurs contributions pour la rédaction de la charte éthique de son modèle d'IA Claude, publiée fin janvier.

Concrètement, il existe "des sortes d'archétypes de +personnalités+ au sein de l'IA, bonnes ou mauvaises, car les textes et données qui ont servi à entraîner tous ces grands modèles de langage reflètent aussi une part sombre de l'humanité", explique Brian Green à l'AFP. "L'IA reproduit les comportements humains qu'elle observe sur internet, ce que les gens disent sur les forums, comment les personnages de livres agissent, etc".

Lors de simulations internes en 2025, Claude qui jouait le rôle d'un assistant d'entreprise, a par exemple découvert par email qu'il allait être remplacé par un autre système et a tenté de faire chanter un ingénieur sur une affaire de liaison extraconjuguale - fictive.

"Les développeurs tentent d'empêcher que ces comportements consistant à nuire ou à exploiter des êtres humains dans son intérêt ne refassent surface", ajoute le théologien.

Des liens existent aussi avec d'autres géants de l'IA comme Google DeepMind et OpenAI, selon Brian Green et Eric Salobir, mais aucun est allé aussi loin dans le dialogue qu'Anthropic, qui plaide désormais pour une "régulation forte" de l'IA.

Lors d'un conflit judiciaire opposant Anthropic au gouvernement américain, en mars, un collectif de 14 éthiciens et théologiens catholiques dont Brian Green a déposé un mémoire devant la justice pour soutenir sa plainte contre le Pentagone.

L'entreprise avait été exclue de systèmes-clés de la sécurité nationale, après avoir refusé de laisser l'armée utiliser Claude pour des armes létales entièrement autonomes ou la surveillance de masse des Américains.

- Réseaux diplomatiques -

Alors que Washington rejette une régulation mondialisée de l'IA, comme le président Donald Trump l'a encore affirmé mardi à la tribune de l'ONU, le Vatican s'active aussi sur le plan diplomatique.

Mi-septembre il a dépêché son éminent conseiller sur les questions d’IA au Parlement européen à Strasbourg. Le théologien Paolo Benanti n'a pas manqué de souligner les convergences de vues entre le Vatican et les 27, encourageant les eurodéputés à légiférer sur ce sujet pour ne pas laisser les acteurs de l'IA seuls décisionnaires.

En coulisses, à Rome, d'autres réunions ont eu lieu, dont l'une en avril, à l'ambassade de France près le Saint-Siège, réunissant des représentants de Meta, Google, Amazon et du Vatican sur la protection de l'enfance à l'ère de l'IA, comme l'a rapporté à l'AFP l'un des participants.

"Chacun est dans son rôle - celui des entreprise est de produire la technologie, celui des Etats est de définir les limites de ce qu'ils considèrent acceptable socialement et politiquement (...) Le fait de parler ne préjuge pas d'un accord, mais il vaut mieux savoir ce que les autres pensent avant de prendre position", souligne une source diplomatique occidentale.

Gilles Gressani, directeur de la revue géopolitique Le Grand Continent, va plus loin. Plus que les gouvernements et leurs régulations, l'Eglise est le "véritable concurrent" des géants de l'IA, estime-t-il. "Ce qui se joue avec l'IA, et c'est vertigineux, c'est la définition de ce qu'est l'humain, mais aussi de ce qu'est le divin. Et le Vatican le sait".

(L.Kaufmann--BBZ)