Une étude récente : les capacités de l'intelligence artificielle ne signifient pas qu'elle possède une conscience

SadaNews - Avec le développement des systèmes d'intelligence artificielle, la question ancienne a refait surface : une machine peut-elle posséder une conscience ? Le débat ne se limite plus à la philosophie ou à la science-fiction, mais devient une partie d'un débat scientifique et éthique plus large, incluant également les animaux, les embryons et les organoïdes cérébraux cultivés en laboratoire.

Cependant, une nouvelle étude analytique publiée dans la revue « Neuron » n'essaye pas de répondre directement à la question de savoir si l'intelligence artificielle est consciente ou non. Au lieu de cela, elle pose une question plus fondamentale : les sciences actuelles ont-elles des outils assez précis pour mesurer la conscience elle-même ? L'étude a été réalisée par une équipe dirigée par Haokuan Lao, directeur du Centre de recherche sur l'imagerie neuronale à l'Institut des sciences fondamentales, en collaboration avec des chercheurs de l'Université de Montréal et de l'Université de New York.

Le problème de la mesure

Les chercheurs estiment qu'une grande partie des recherches actuelles sur la conscience peut ne pas distinguer clairement entre l'expérience subjective et le traitement de l'information. Cette distinction est importante car un système, qu'il s'agisse d'un cerveau humain ou d'un modèle informatique, peut recevoir des informations, les analyser et y répondre, sans que cela signifie nécessairement qu'une expérience consciente interne existe.

Dans une déclaration rapportée par le rapport, Lao a déclaré que de nombreuses théories actuelles sur la conscience semblent soutenues par des expériences scientifiques, mais ces résultats pourraient refléter un « traitement général de l'information » plutôt qu'une réelle conscience. Par conséquent, il reste difficile d'affirmer que ces théories expliquent vraiment la conscience.

Ce point rend le débat sur la conscience de l'intelligence artificielle plus complexe. Si les outils scientifiques ne sont pas encore capables d'isoler la conscience des autres processus cognitifs dans le cerveau, il devient difficile de les utiliser avec confiance pour juger des entités non humaines, telles que les systèmes d'intelligence artificielle ou les êtres vivants incapables de s'exprimer verbalement.

Des expériences insuffisantes

Les chercheurs critiquent certains modèles expérimentaux courants en neurosciences, tels que le masquage visuel, la compétition entre les yeux et les tests de seuils perceptifs. Ces expériences sont utilisées pour étudier quand une chose devient visible ou perçue consciemment, et quand elle reste en dehors de la conscience immédiate.

Mais le problème, selon l'étude, est que ces tests ne modifient pas uniquement la conscience. Ils peuvent également affecter la capacité globale du cerveau à traiter des informations, ce qui peut amener les chercheurs, sans le vouloir, à confondre l'absence d'expérience consciente avec une faiblesse ou un changement dans le traitement cognitif lui-même.

En d'autres termes, un chercheur pourrait penser que l'expérience mesure ce que la personne ressent réellement, alors qu'elle mesure en partie la capacité du cerveau à recevoir le signal, à le traiter ou à y répondre. Cette confusion devient plus sensible lorsque des indicateurs similaires sont utilisés pour porter des jugements sur la conscience d'entités ou de systèmes qui ne peuvent pas décrire leur expérience par eux-mêmes.

L'intelligence artificielle, les animaux et les organoïdes

L'étude met en garde contre le fait que ce problème méthodologique peut conduire à des affirmations fortes plus que ce que les preuves permettent. Ces dernières années, les discussions sur la conscience des animaux, la possibilité de conscience de l'intelligence artificielle, les expériences sur les embryons et les organoïdes cérébraux cultivés en laboratoire à des fins de recherche se sont intensifiées.

Elle ne dit pas que ces entités sont conscientes ou non conscientes, mais que les preuves utilisées dans de telles discussions pourraient être plus faibles qu'il n'y paraît, si les indicateurs mesurent le traitement de l'information et non l'expérience subjective. Par conséquent, les chercheurs appellent à des normes scientifiques plus strictes avant d'utiliser les résultats de la recherche sur la conscience dans des questions éthiques ou réglementaires.

Cette demande ne minimise pas l'importance du débat, mais le rend plus sérieux, car la question de la conscience chez les animaux ou l'intelligence artificielle ne reste pas une question académique si elle influence les politiques de bien-être animal, l'éthique du développement de l'intelligence artificielle, ou la recherche biologique liée aux embryons et aux tissus neuronaux.

Une leçon de l'histoire

Les chercheurs notent que la psychologie a connu un problème similaire à la fin du XIXe siècle et au début du XXe siècle. À cette époque, des affirmations très fortes et mal fondées sur la conscience ont suscité une réaction scientifique large, contribuant ensuite à l'essor de l'école comportementale, qui s'est éloignée pendant des décennies de l'étude de l'expérience intérieure et s'est concentrée sur le comportement observable.

Cet exemple historique est important car il montre que la surestimation des affirmations de conscience peut nuire au domaine plutôt que de l'aider. Si les conclusions scientifiques semblent plus importantes que les preuves disponibles, cela pourrait entraîner une perte de confiance dans l'étude de la conscience, ou à éviter ce sujet comme étant inapproprié pour une mesure précise.

Par conséquent, les chercheurs ne demandent pas de clore le débat, mais de le protéger contre des conclusions hâtives. Ce qui est nécessaire, selon leur analyse, c'est de développer des méthodes pouvant isoler l'expérience subjective avec une plus grande précision, au lieu de se contenter d'indicateurs généraux de cognition ou de traitement.

Des cas révélant la frontière

L'étude suggère que certains cas neurologiques peuvent aider les scientifiques à comprendre la séparation entre la conscience et le traitement de l'information. Parmi ces cas, « la vision aveugle », où certains patients peuvent réagir à des stimuli visuels sans ressentir qu'ils les ont vus consciemment. Il y a aussi les cas de négligence unilatérale, où le patient ignore un côté du champ visuel ou spatial même si certains traitements sensoriels peuvent exister.

Ces cas révèlent que la perception, le comportement et la conscience ne se déplacent pas toujours ensemble. Le cerveau peut traiter certaines informations sans qu'elles se transforment en une expérience consciente claire. Cela ouvre la voie à la construction d'expériences plus précises qui peuvent faire la distinction entre le fait que le système réponde à l'information et qu'il ait une expérience subjective de celle-ci.

Pour l'intelligence artificielle, ce point est crucial car le système peut répondre à des questions, décrire des émotions, parler de l'expérience subjective et analyser des informations complexes. Mais ces capacités ne suffisent pas à prouver l'existence de conscience, car elles peuvent être le résultat d'un traitement linguistique ou computationnel avancé.

L'éthique de la science

Cette discussion devient de plus en plus importante car les décisions de la société peuvent être influencées par ce que les scientifiques disent sur la conscience. Si l'on dit qu'un système intelligent est conscient, cela peut soulever des questions sur ses droits ou sur la façon de l'interagir. Si l'on dit qu'un animal ou un organe cérébral possède une forme d'expérience, cela pourrait modifier les limites des recherches et des expériences autorisées.

Lao a déclaré que les questions de conscience ont de grandes implications éthiques et sociétales, ajoutant que les bases scientifiques soutenant ces affirmations doivent être « rigoureuses », surtout si elles vont influencer des discussions telles que le bien-être des animaux et l'éthique de l'intelligence artificielle.

Dans ce sens, l'étude ne porte pas seulement sur l'intelligence artificielle, elle établit un standard général pour le débat : avant de demander si une entité est consciente, nous devons savoir si nos outils mesurent réellement la conscience, ou mesurent quelque chose de proche de celle-ci mais qui n'est pas la même.

Les limites de l'affirmation

L'étude ne fournit pas de jugement définitif sur la conscience des machines, des animaux, des embryons ou des organoïdes cérébraux. Elle ne nie pas non plus la possibilité de rechercher sur ces questions, mais met en garde contre le recours à des indicateurs qui pourraient être insuffisants, surtout lorsque les résultats scientifiques se transforment en positions éthiques ou en politiques publiques.

Ce que l'étude dit avec précision, c'est que la science de la conscience a besoin d'une plus grande clarté conceptuelle et méthodologique. L'intelligence artificielle peut devenir plus capable de simuler le langage et le comportement humain, mais mesurer la conscience nécessite plus qu'une observation de la performance extérieure, et nécessite des outils capables de faire la distinction entre le traitement de l'information et l'existence d'une expérience interne subjective.