Montrer l’index Cacher l’index
À l’occasion de la Journée mondiale des communications sociales, le pape Léon XIV a exprimé ses inquiétudes face aux risques présentés par l’intelligence artificielle (IA). Il souligne le danger d’un contrôle oligopolistique exercé par quelques entreprises dominantes et l’absence de transparence dans la création des algorithmes qui régissent de nombreux systèmes, notamment les chatbots basés sur des grands modèles de langage. Le pape met en garde contre la persuasion occulte de ces technologies et la nécessité de comprendre leur influence sur notre perception de la réalité, appelant à une alphabétisation numérique plus poussée et une gouvernance réfléchie pour encadrer cette force ambivalente.
Lors de la Journée mondiale des communications sociales, le pape Léon XIV a exprimé ses préoccupations concernant les dangers potentiels de l’intelligence artificielle (IA). Dans son message, il a mis en avant le manque de transparence dans la création des algorithmes et la concentration du pouvoir dans les mains de quelques entreprises. De plus, Léon XIV a souligné l’urgence d’imposer une gouvernance appropriée à cette technologie influente et de promouvoir l’éducation aux médias, à l’information et à l’IA pour permettre une meilleure compréhension de son impact social.
Une « puissance invisible » source de risques
Le pape Léon XIV a décrit l’intelligence artificielle comme une «puissance invisible» marquée par d’énormes répercussions sur la société. En s’adressant au monde lors de la Journée mondiale des communications sociales, le Saint-Père a souligné les risques associés à cette technologie émergente. Il a noté que l’IA, bien qu’elle offre de nombreuses opportunités, pose également des défis importants en termes de contrôle et d’influence. Les algorithmes qui façonnent les systèmes d’IA manquent souvent de transparence, créant ainsi un climat de méfiance et de suspicion.
Concentration du pouvoir et oligopole
Un autre point d’inquiétude soulevé par Léon XIV réside dans la concentration du pouvoir. Selon lui, il existe seulement « quelques entreprises » qui détiennent le contrôle de cette énorme force. Ce contrôle oligopolistique pourrait mener à une domination excessive sur les utilisateurs et sur la manière dont l’information est diffusée. Le pape insiste sur le fait que ce n’est pas l’innovation numérique qu’il faut ralentir, mais qu’il est essentiel de développer des mécanismes pour gouverner ces technologies de manière responsable.
L’absence de transparence et les biais algorithmiques
La non-transparence des algorithmes qui guident le fonctionnement des IA est l’un des aspects qui préoccupent le plus le pape Léon XIV. En particulier, les chatbot basés sur des grands modèles de langage, tels que ChatGPT ou Gemini, sont perçus comme extrêmement puissants dans leur capacité à persuader et à influencer subtilement. Les algorithmes sont façonnés par la vision des développeurs, et souvent, ils reproduisent des stéréotypes et des préjugés présents dans les données d’entraînement, ce qui peut renforcer les biais existants dans la société.
La nécessité d’une alphabétisation numérique
Pour répondre à ces défis, Léon XIV appelle à une «alphabétisation numérique» généralisée. Il insiste sur l’importance d’introduire dans les systèmes éducatifs, à tous les niveaux, une formation sur les médias, l’information et l’IA. L’objectif est de permettre aux individus de comprendre comment les algorithmes modèlent notre perception de la réalité. C’est par l’éducation et la sensibilisation que l’on pourra, selon le pape, développer une société mieux adaptée à la révolution numérique.
La course à l’IA dans le secteur militaire
Enfin, Léon XIV a exprimé ses préoccupations face à la course à l’IA dans le domaine militaire. Il voit, dans le fait de confier aux machines des décisions touchant à la vie et à la mort, une « spirale destructrice ». La délégation aux machines de responsabilités aussi critiques soulève des questions éthiques vitales qui, pour le pape, nécessitent une réflexion et un débat approfondis.
