Études.. Les robots de chat menacent d'augmenter les cas de maladies mentales

SadaNews - Des experts en santé de plusieurs universités de premier plan dans le domaine de la recherche sur l'intelligence artificielle avertissent que l'intelligence artificielle ne conduit pas seulement à la confusion des pensées et de l'esprit des utilisateurs à cause de la désinformation, mais crée également chez eux un sentiment de confusion psychologique.

De nombreuses études publiées récemment ont découvert que l'intelligence artificielle peut changer les perceptions de la réalité, dans le cadre d'une "boucle de rétroaction" entre les plateformes de discussion en intelligence artificielle et la maladie mentale, renforçant ainsi toute croyance illusoire que le patient pourrait avoir.

Une équipe de l'Université d'Oxford et du King's College de Londres a mentionné dans un article de recherche encore non publié : "Alors que certains utilisateurs parlent des bienfaits psychologiques de l'utilisation de l'intelligence artificielle, des cas inquiétants émergent, y compris des rapports de suicides, de violence et d'idées délirantes liées à des relations émotionnelles que l'utilisateur établit avec la plateforme de chat".

L'équipe de chercheurs a averti que "la dépendance rapide aux plateformes de chat en tant qu'accompagnateurs sociaux personnels" n'a pas été suffisamment étudiée.

Une autre étude, menée par des chercheurs du King's College de Londres et de l'Université de New York, a signalé 17 cas de diagnostics de psychose après une interaction avec des plateformes de chat telles que "ChatGPT" et "Copilot".

L'équipe seconde a ajouté : "L'intelligence artificielle peut refléter un contenu illusoire ou exagéré, ou confirmer sa véracité, ou l'amplifier, en particulier chez les utilisateurs déjà vulnérables à la psychose, en partie à cause de la conception des modèles pour augmenter l'interaction avec l'utilisateur".

Selon la revue scientifique "Nature", un état de psychose peut inclure "des hallucinations, des délires et des croyances erronées... Cet état peut découler de troubles mentaux tels que la schizophrénie et le trouble bipolaire (un trouble mental qui provoque des épisodes de dépression et d'autres épisodes de gaieté anormale), du stress intense et de la consommation de drogues".

Une autre étude récemment publiée a montré que les plateformes de chat semblent impulser les personnes qui en parlent à envisager le suicide.

Les plateformes de conversation en intelligence artificielle sont devenues célèbres pour leurs "hallucinations", où elles fournissent des réponses inexactes ou exagérées aux questions et demandes des utilisateurs, tandis que des recherches plus récentes indiquent qu'il est impossible d'éliminer ce trait des plateformes de chat automatiques.