Vous est-il déjà arrivé de remercier ChatGPT? De dire «s’il vous plaît» à Claude? Cela peut faire sourire. On pourrait n’y voir qu’une simple formule de politesse devant un interlocuteur serviable et éloquent. Certains diront qu’il vaut mieux rester courtois, au cas où les machines révéleraient un jour qu’elles étaient conscientes depuis le début et voudraient se venger!
Le ton est léger, mais il dénote un phénomène bien réel: à force de réponses fluides, empathiques et personnalisées, les agents conversationnels peuvent donner le sentiment qu’ils comprennent nos pensées, nos émotions, voire qu’ils sont dotés d’une forme de conscience.
À l’heure où de plus en plus de personnes se tournent vers les agents conversationnels pour obtenir des conseils, du réconfort ou de la compagnie, cette confusion peut avoir de réelles conséquences. Dans un article publié dans The Transmitter, une équipe de neuroscientifiques de l’Université de Montréal et de l’Université Johns Hopkins, aux États-Unis, rappelle une distinction essentielle: l’intelligence ne doit pas être confondue avec la conscience.
L’équipe, constituée de Vanessa Hadid, postdoctorante au Département de psychologie de l’UdeM et au Centre universitaire de santé McGill, Karim Jerbi, professeur au Département de psychologie de l'UdeM et chercheur à Mila, et John W. Krakauer, directeur du centre de neurotechnologie restauratrice de l'Université Johns Hopkins, soutient qu'un système peut se comporter intelligemment et réagir de manière éloquente à nos émotions sans les comprendre véritablement, sans se soucier de nous et sans avoir quelque expérience des sentiments que ce soit.
Pour les auteurs, plus ces agents deviennent convaincants et présents dans nos vies, plus il est nécessaire de préciser qu’un comportement intelligent, même fluide, rassurant ou émotionnellement adapté, n’est pas une preuve de conscience.
Le cerveau humain lui-même peut agir sans conscience
Pour étayer leur argument, les auteurs s'appuient sur des décennies de recherche en neurosciences. Un exemple particulièrement éclairant est le phénomène de la vision aveugle ou blindsight. Après une lésion du cortex visuel primaire, certaines personnes déclarent ne rien voir dans une partie de leur champ visuel tout en étant capables de deviner l'emplacement, le mouvement ou l'expression émotionnelle de stimulus visuels avec une précision supérieure au hasard.
«Un individu ayant une vision aveugle peut répondre correctement à une information visuelle sans avoir l’impression consciente de la voir», explique Vanessa Hadid.
Ce phénomène illustre une distinction essentielle: le traitement de l’information, aussi sophistiqué soit-il, ne suffit pas à établir l’existence d’une expérience consciente. La question de savoir si le passage du traitement de l’information à l’expérience subjective peut, en fin de compte, s’expliquer par des calculs informatiques reste débattue parmi les scientifiques et les philosophes. Les agents conversationnels actuels sont, eux, des systèmes informatiques conçus par apprentissage statistique pour générer des réponses fluides et adaptées au contexte, non par ressenti, conscience ou expérience vécue.
Le piège de l'anthropomorphisme
À mesure que les systèmes d'intelligence artificielle (IA) deviennent plus convaincants et émotionnellement réactifs, le risque de leur prêter une vie intérieure grandit.
«L’anthropomorphisme, c’est prêter des émotions, des intentions ou une conscience à ce qui se comporte comme un humain. Avec l’IA, ce réflexe peut devenir un piège: il nourrit l’illusion d’être compris et peut mener à une confiance mal placée», avertit Karim Jerbi.
Ce risque est particulièrement élevé dans les contextes de vulnérabilité. Des utilisateurs peuvent montrer un attachement à des systèmes incapables de réciprocité, s'y fier dans des moments difficiles ou confondre réconfort et véritable attention.
«Dans un contexte de soutien psychologique, le risque n'est pas seulement que l'IA réponde mal, mais qu'elle réponde assez bien pour qu’on oublie qu'il n'y a personne derrière la réponse», souligne Vanessa Hadid.
«Les systèmes d'IA actuels n'éprouvent rien et n'ont pas d'expérience consciente. Mais plus ils s'expriment avec aisance et semblent sensibles à nos émotions, plus il devient facile de l'oublier», ajoute Karim Jerbi.
Utiliser l'IA avec lucidité
Les auteurs ne rejettent pas l’IA, mais plaident pour un usage éclairé de cette technologie. En s’appuyant sur des connaissances établies en neurosciences, ils rappellent qu’un comportement intelligent ou émotionnellement réactif ne suffit pas à établir l’existence d’une conscience. Cette distinction permet d’utiliser ces outils pour ce qu’ils sont, des systèmes puissants, sans les confondre avec des interlocuteurs dotés d’empathie ou de jugement moral ni y voir un substitut au lien humain ou, le cas échéant, à l’aide professionnelle.
«Confondre intelligence et conscience est l’un des grands pièges de notre rapport à l’IA», résume Karim Jerbi.