Tout comme les humains... l'intelligence artificielle pourrait souffrir de « septicémie cérébrale »

SadaNews - Au cours des dernières années, le terme « septicémie cérébrale » a circulé parmi les scientifiques et les experts en santé, désignant une condition touchant les humains qui se plaignent de périodes de concentration réduites, de distorsions de mémoire et d'augmentation des problèmes de santé mentale tels que le stress et la dépression en raison d'une consommation excessive de contenus jugés futiles ou de faible qualité, surtout sur Internet.

Les chercheurs affirment maintenant que le même phénomène pourrait également affecter les modèles d'intelligence artificielle, selon le magazine « Fortune ».

Dans les modèles d'intelligence artificielle, l'exposition constante à de courtes publications largement diffusées sur les réseaux sociaux entraîne une « dégradation cognitive permanente dans les grands modèles de langage », selon une nouvelle étude qui n'a pas encore été publiée.

Pour prouver leur hypothèse, les chercheurs ont continuellement fourni aux grands modèles de langage des publications courtes et largement diffusées sur le site « X ».

Ils ont constaté que « cet entraînement toxique cause une diminution notable de la capacité à réfléchir et à comprendre des contextes longs, en partie à cause d'une augmentation du (saut d'idées), ce qui signifie que les modèles d'intelligence artificielle échouent de plus en plus à élaborer une stratégie pour répondre aux questions, omettent des parties de leur processus d'analyse logique ou ignorent complètement ce processus. »

Lorsque les chercheurs ont tenté de « traiter » les grands modèles de langage avec des données de haute qualité rédigées par des humains, ils ont découvert que les modèles souffraient encore d'effets résiduels de dégradation cognitive et ont montré un écart important entre la qualité de leur pensée avant et après l'entraînement sur les publications des réseaux sociaux.

Les chercheurs ont déclaré que cet écart indique que les effets de la septicémie cérébrale ont été profondément assimilés et que la dégradation de leurs performances pourrait être à long terme.

Étant donné que les modèles d'intelligence artificielle sont formés sur des trillions de données provenant de tout Internet, les chercheurs ont averti qu'ils sont « inévitablement et constamment » exposés à ce contenu de faible qualité tout comme les humains, ce qui pourrait représenter des risques pour la technologie dans son ensemble.