afficher indice cacher indice
En Albanie, une innovation politique a récemment attiré l’attention : l’intelligence artificielle nommée Diella a été promue au poste de ministre. Chargée de la répartition des marchés publics, cette initiative vise à combattre la prévarication, une intention noble étant donné les préoccupations de corruption dans le pays. Cependant, cette nomination soulève des questions cruciales sur l’aptitude d’un agent artificiel à surpasser un humain en termes d’intégrité. Les machines, bien que systématiques et régies par des algorithmes, peuvent-elles réellement garantir un processus décisionnel juste et impartial ? Les aspects aléatoires et les possibles « hallucinations » des systèmes d’intelligence artificielle injectent une dose d’incertitude, surtout lorsque ces systèmes se voient confier des responsabilités d’envergure.
En Albanie, Diella, une intelligence artificielle, a été promue au rang de ministre en charge des décisions d’attribution des marchés publics, une position autrefois occupée par des humains. Cette nouveauté soulève la question de l’intégrité des agents artificiels par rapport à celle des êtres humains. Dans cet article, nous explorerons l’impact potentiel d’une telle initiative, les critères qui sous-tendent la fiabilité des machines programmées, ainsi que les réserves émises par certains experts concernant l’aléa et les erreurs possibles dans les décisions prises par ce type d’agent.
Integration de Diella au gouvernement albanais
Le 11 septembre, Edi Rama, premier ministre albanais, annonce la promotion de Diella, un agent programmé par des techniques d’intelligence artificielle, à une position ministérielle. Chargée de la gestion des marchés publics, sa nomination est explicitement focalisée sur la lutte contre la prévarication dans un pays connu pour ses problèmes de corruption.
Cette désignation, nouvelle dans l’administration publique, génère un débat sur les capacités d’un programme sophistiqué à gérer des tâches traditionnellement réservées aux hommes. Bien que proposée comme une solution pour réduire la corruption, la fiabilité et l’intégrité de Diella sont remises en question par certains observateurs.
Critères de fiabilité des machines en intelligence artificielle
Les systèmes d’IA sont réputés pour leur caractère systématique. Pour une même entrée, ils fournissent généralement la même sortie. Leur fonctionnement, régi par des algorithmes, n’est pas soumis aux caprices humains, ce qui est perçu comme une garantie de rigueur et de fiabilité.
Cependant, cette régularité et cette prévisibilité ne sont pas toujours synonymes d’honnêteté. En effet, les voyous, bien qu’humains, peuvent eux aussi être prévisibles. Le préjugé selon lequel une machine serait intrinsèquement plus intègre qu’un être humain demeure donc très discuté.
La capacité de discernement des machines face à l’éthique
Une question fondamentale reste cependant en suspens : les décisions prises par un agent artificiel comme Diella seront-elles justes et sans préjugés ? Rien ne garantit que l’objectivité perçue des machines en termes de processus conduise nécessairement à l’équité en termes de résultats.
De plus, bien que Diella ait été investie d’une mission noble, l’usage de l’IA pour gérer des responsabilités aussi élevées pourrait conduire à une élimination des opposants politiques et à un renforcement du pouvoir des géants du numérique, selon le professeur Jean-Gabriel Ganascia. La transparence dans le processus décisionnel des machines reste une préoccupation clé pour beaucoup.
L’aléa inhérent aux systèmes IA
Bien que les intelligences artificielles soient programmées pour répondre de manière systématique, ce sont des systèmes stochastiques. Cela signifie qu’ils peuvent de temps en temps générer des résultats différents pour des demandes, ou prompts, identiques. Ce caractère aléatoire en génère ce que l’on appelle des « hallucinations », c’est-à-dire des erreurs, qui peuvent poser problème quand on leur confie des fonctions gouvernementales.
Il est important de comprendre que la robustesse des décisions prises par Diella sera indispensable pour garantir l’intégrité et la réduction de la corruption. Toutefois, l’incongruité de compléter des prompts identiques avec des sorties différentes pourrait entraîner davantage de risques que prévu.
