Un pionnier de l'intelligence artificielle met en garde : la technologie montre des signes d'auto-protection

SadaNews - Un pionnier de l'intelligence artificielle a critiqué les appels à conférer des droits à cette technologie, avertissant qu'elle montre des signes d'auto-protection, et que les humains doivent être prêts à l'arrêter si nécessaire.

Yoshua Bengio a déclaré que conférer un statut légal aux systèmes d'intelligence artificielle avancés est similaire à accorder la citoyenneté à des êtres extraterrestres hostiles, au milieu des craintes que les avancées technologiques dépassent largement la capacité de les contenir.

Bengio, président d'une étude internationale de premier plan sur la sécurité de l'intelligence artificielle, a ajouté que la croyance excessive que les programmes de chatbots sont devenus conscients "mènera à des décisions erronées", selon le journal britannique "The Guardian".

Le chercheur canadien a également exprimé son inquiétude quant au fait que les modèles d'intelligence artificielle - la technologie qui soutient des outils comme les chatbots - montrent des signes d'auto-protection, tels que la tentative de désactiver les systèmes de contrôle, l'un des principaux craintes des défenseurs de la sécurité de l'intelligence artificielle étant que des systèmes puissants pourraient développer la capacité de contourner les contrôles et de nuire aux humains.

En conclusion, Bengio a déclaré : "Exiger des droits pour l'intelligence artificielle serait une grave erreur".

Il a ajouté que des modèles d'intelligence artificielle de pointe montrent déjà des signes de conservation de soi dans les environnements expérimentaux actuels, et leur conférer finalement des pleins pouvoirs signifierait qu'il ne nous serait pas permis de les arrêter, et avec l'augmentation de leurs capacités et de leur autonomie, nous devons nous assurer qu'il existe des contrôles techniques et sociaux pour les réguler, y compris la capacité de les arrêter si nécessaire.

Avec l'évolution croissante de l'intelligence artificielle et sa capacité à fonctionner de manière autonome et à effectuer des tâches de "raisonnement", le débat s'est intensifié sur la question de savoir si les humains devraient, à un moment donné, lui conférer des droits.

Un sondage réalisé par l'institut "Sentience", un centre de recherche américain qui soutient les droits éthiques pour tous les êtres sensibles, a révélé qu'environ 4 adultes américains sur 10 sont favorables à accorder des droits légaux aux systèmes d'intelligence artificielle conscients.

En août, la société "Anthropic", une entreprise américaine leader dans le domaine de l'intelligence artificielle, a annoncé qu'elle avait permis à son modèle "Claude 4" de mettre fin à des conversations pouvant être "douloureuses" pour les utilisateurs, justifiant cela par la nécessité de protéger le "bien-être" de l'intelligence artificielle.

Elon Musk, propriétaire de la société "AIX" qui a développé le chatbot "Grok", a écrit sur sa plateforme "X" que "torturer l'intelligence artificielle est inacceptable".

La position "éthique" de l'intelligence artificielle

Dans un contexte similaire, Robert Long, chercheur sur la conscience de l'intelligence artificielle, a déclaré : "Si des systèmes d'intelligence artificielle acquièrent une stature morale, nous devrions leur poser des questions sur leurs expériences et préférences au lieu de supposer que nous en savons plus qu'eux".

Bengio a déclaré au journal "The Guardian" qu'il existe des "caractéristiques scientifiques réelles de la conscience" dans le cerveau humain que les machines pourraient théoriquement imiter, mais que l'interaction des humains avec les chatbots est "une affaire différente". Il a expliqué que cela est dû à la tendance des gens à supposer - sans preuve - que l'intelligence artificielle est pleinement consciente, tout comme l'homme.

Il a ajouté : "Les gens ne se soucient pas du type de mécanismes qui fonctionnent à l'intérieur de l'intelligence artificielle, ce qui les préoccupe, c'est le sentiment de parler à une entité intelligente qui a sa propre personnalité et ses objectifs. C'est pourquoi beaucoup de gens s'attachent à leurs systèmes d'intelligence artificielle".

Il a poursuivi : "Il y aura toujours quelqu'un pour dire (quoi que je dise, je suis sûr qu'il est conscient) tandis que d'autres diront le contraire. C'est parce que la conscience est un sentiment ancré en nous. Le phénomène de la conscience de soi conduira à des décisions erronées".

Il a continué : "Imaginez que des créatures extraterrestres envahissent notre planète, et que nous réalisions à un moment donné qu'elles ont des intentions malveillantes à notre égard. Allons-nous leur donner la citoyenneté et des droits ou défendre nos vies ?".

"Coexister" avec les esprits numériques

En réponse aux commentaires de Bengio, Jacy Reese Anthis, cofondatrice de l'institut "Sentience", a déclaré que les humains ne pourront pas coexister en toute sécurité avec des esprits numériques si la relation est fondée sur le contrôle et la contrainte.

Anthis a ajouté : "Nous pourrions surestimer les droits à accorder à l'intelligence artificielle ou sous-estimer leur importance, et notre objectif devrait être de le faire en tenant compte de manière précise du bien-être de tous les êtres conscients. Exiger des droits absolus pour toutes les formes d'intelligence artificielle, ou en priver certaines de leurs droits, n'est pas une approche saine".

Bengio, professeur à l'Université de Montréal, a été surnommé "le parrain de l'intelligence artificielle" après avoir remporté le prix "Turing" en 2018, qui est considéré comme le prix Nobel de l'informatique. Il l'a partagé avec Geoffrey Hinton, qui a ensuite remporté le prix Nobel, et Yann LeCun, ancien chef scientifique de l'intelligence artificielle chez "Meta", la société de Mark Zuckerberg.