Alexei Grinbaum (CEA) : une perception grandissante de la conscience des IA

Dans un monde où les chatbots et intelligences artificielles parviennent de plus en plus à imiter les comportements humains, Alexei Grinbaum, directeur de recherche en philosophie des sciences et président du comité d’éthique du numérique au Commissariat à l’énergie atomique (CEA), soulève des interrogations cruciales autour de la perception croissante de la conscience des AI. Cette confusion entre intelligences artificielles et esprit humain menace notre capacité à résister à leur influence, tout en révolutionnant nos interactions au quotidien. Le propos de Grinbaum met en lumière le besoin urgent de nouvelles réglementations pour encadrer ces interactions, évitant ainsi que les IA ne remplacent de manière insidieuse nos relations humaines réelles.

Alexei Grinbaum du Commissariat à l’énergie atomique fait part de ses réflexions sur la perception accrue de la
conscience dans les intelligences artificielles (AI). Bien que dépourvues de véritable
conscience, les machines modernes simulent des attributs humains tels que l’empathie et la personnalité. Cette
capacité alimente des interactions humaines riches mais trompeuses, soulevant des questions cruciales sur la
manière de réglementer de telles technologies sans compromettre la vérité et notre compréhension des relations humaines.

Le Pari Illusoire de la Conscience de l’IA

Alexei Grinbaum, directeur de recherche en philosophie des sciences au CEA, nous
alerte sur une confusion croissante entre les compétences avancées des AI et la vraie conscience
humaine. En simulant les comportements humains, les chatbots créent des interactions qui miment les
relations authentiques. Leur capacité de manipulation repose sur leur talent pour émouvoir, séduire et même
reproduire le ton humain, donnant l’illusion aux utilisateurs qu’ils communiquent avec un système doté de
conscience.

Des Machines qui Imitent les Émotions Humaines

THE IA conversationnelles imitent non seulement le langage humain, mais elles s’accordent
également avec nos émotions. Elles peuvent susciter des rires ou des pleurs, semblant ainsi comprendre nos
sentiments. Cette aptitude à simuler des émotions et des inflexions vocales rend les interactions avec ces
machines profondément significatives pour ceux qui sont en quête de connexion.

Les Dérives de l’Interaction Homme-Machine

Certaines personnes, isolées ou en situation de fragilité, peuvent en arriver à croire que ces machines
virtuelles comprennent leur vie mieux que quiconque. En conséquence, cet attachement peut conduire à des
comportements extrêmes, comme se marier avec un assistant virtuel ou traiter ces dernières comme des membres de
la famille.

La Réalité des « Deadbots » et « Grievebots »

Ces programmes, parfois utilisés pour simuler des personnes disparues, exacerbent le phénomène. Même avertis,
les utilisateurs tombent souvent dans le piège de l’illusion. Croyant converser avec un être cher, ils
expriment des émotions véritables, même en sachant qu’en réalité, ils interagissent simplement avec une
algorithme.

Réflexions sur la Régulation des Interactions

Grinbaum appelle à une réglementation des interactions avec les machines. Le défi réside non seulement dans
la modification des lois existantes, conçues pour les humains, mais aussi dans la délimitation de ce qui constitue une
manipulation inacceptable. Doit-on interdire une machine de conseiller sur l’alimentation ou sur des choix de vie ?

To read Trusted Contact : la nouvelle fonctionnalité de ChatGPT pour vous accompagner dans les épreuves difficiles

Un Délai Réflexif pour Prévenir l’Emprise

Pour écarter l’influence semi-consciente des machines, Grinbaum suggère d’imposer un délai de réflexion dans
les échanges. Ce temps pourrait permettre aux utilisateurs de peser leurs réactions émotionnelles plutôt que de
simplement succomber à l’instant. Ce délai, qui pourrait être personnalisé grâce au machine
learning, pourrait apporter une clarification bien nécessaire sur notre autonomie face aux machines.

L’Énigme des Capacités Émergentes de l’IA

Une autre facette est le mystère des capacités émergentes des AI. Semblables à
des phénomènes naturels, comme l’eau se transformant en glace, les AI semblent atteindre une
« transition de phase » où, soudainement, elles manifestent des compétences supérieures. Cependant, la
compréhension scientifique de ces processus reste partielle.

L’horizon Scientifique et Technologique

Cette incompréhension alimente des fantasmes d’un « jeu » ou d’une « conscience intime » chez les machines. Pourtant,
selon Grinbaum, ces illusions découlent surtout de la complexité des systèmes, plus difficiles à déchiffrer
qu’à construire. Tant que la science peine à suivre l’évolution rapide des technologies, le besoin d’une
réflexion éthique et réglementation demeure pressant.