Demandez au médecin.. Les robots IA ont échoué à diagnostiquer 80 % des maladies

SadaNews - Avec l'augmentation de la dépendance des gens dans le monde aux robots de conversation basés sur l'intelligence artificielle, une nouvelle étude révèle qu'"il n'y a pas d'échappatoire au médecin". En effet, elle révèle que ces robots de conversation se sont trompés dans plus de 80 % des cas médicaux à un stade précoce.

Une nouvelle étude publiée hier, lundi, dans la revue Jama Network Open a mis en lumière les dangers de s'appuyer sur ces robots en tant que médecins numériques, soulignant que ces robots ont du mal à suggérer une gamme de diagnostics possibles lorsque les données des patients sont limitées et qu'ils réduisent souvent rapidement leur champ d'action à une seule réponse.

Les résultats ont également montré que les robots de conversation peuvent identifier les cas probables lorsque la situation est complètement et clairement définie, mais leur fiabilité diminue aux stades précoces ou plus flous.

Dangers de la dépendance à la technologie

Les résultats soulignent les dangers de s'appuyer uniquement sur la technologie pour identifier des problèmes de santé, en particulier dans les cas où les données fournies par les utilisateurs sont floues ou fragmentées.

Ariya Rao, l'auteur principal de l'étude et chercheuse au système de santé "Mass General Brigham", basé dans le Massachusetts, a déclaré : "Ces modèles sont excellents pour nommer le diagnostic final lorsque les données sont complètes, mais ils éprouvent des difficultés au départ, lorsque beaucoup d'informations ne sont pas disponibles", selon le journal "Financial Times".

L'étude a testé des modèles d'intelligence artificielle en utilisant 29 cas cliniques fictifs basés sur une référence médicale. L'expérience a inclus la révélation progressive des données étape par étape, y compris l'historique médical actuel, les résultats de l'examen clinique et les résultats des tests de laboratoire. Les chercheurs ont posé des questions de diagnostic aux modèles robotisés et ont mesuré les taux d'échec, définis comme le pourcentage de questions auxquelles elles n'ont pas répondu correctement dans leur intégralité.

Les chercheurs ont également évalué 21 modèles de robots de conversation, y compris des modèles de premier plan développés par des entreprises telles qu'OpenAI, Anthropic, Google, xAI et DeepSeek.

Cependant, ils ont constaté que les taux d'échec de diagnostic dépassaient 80 % pour tous les modèles lorsqu'il leur était demandé de procéder à ce que l'on appelle un diagnostic différentiel, c'est-à-dire lorsque toutes les informations sur le patient ne sont pas disponibles.

Les taux d'échec ont cependant chuté à moins de 40 % lors du passage à un diagnostic final avec des données plus complètes, où les meilleurs modèles ont dépassé une précision de 90 %.

La société Anthropic avait précédemment confirmé que le modèle "Claude" était formé pour orienter les personnes posant des questions médicales vers des spécialistes.

Google a quant à elle expliqué que le modèle "Gemini" est conçu pour faire la même chose et qu'il contient des rappels intégrés dans l'application pour inciter les utilisateurs à vérifier à nouveau les informations.

La politique d'utilisation d'OpenAI stipule également que ses services ne doivent pas être utilisés pour fournir des conseils médicaux nécessitant une licence professionnelle sans impliquer des spécialistes qualifiés de manière appropriée.