Des experts avertissent : l'intelligence artificielle menace d'extinction de l'humanité dans un an

SadaNews - Dans un contexte de développement rapide de l'intelligence artificielle, un groupe de scientifiques éminents, parmi lesquels des lauréats du prix Nobel, ont averti que des robots surintelligents pourraient entraîner l'extinction de l'humanité dans un an seulement, si la trajectoire actuelle du développement de cette technologie se poursuit, selon le journal « The Times ».

Fin juillet dernier, un rassemblement de protestation a eu lieu devant le siège de la société « OpenAI » à San Francisco, où environ 25 militants portant des t-shirts rouges avec l'inscription « Arrêtez l'intelligence artificielle » ont exigé un frein à la montée rapide de cette technologie qu'ils considèrent comme un danger existentiel pour l'humanité.

Ce souci est partagé par plusieurs des plus grands experts en intelligence artificielle, dont Geoffrey Hinton, lauréat du prix Nobel de physique, et Yoshua Bengio, lauréat du prix Turing, ainsi que des dirigeants d'entreprises de premier plan telles que « OpenAI », « Anthropic », « DeepMind » et « Google », qui ont signé une lettre ouverte demandant que la réduction des risques d'extinction causés par l'intelligence artificielle soit placée en tête des priorités mondiales, aux côtés de grands risques tels que les pandémies et les guerres nucléaires.

Les experts avancent des scénarios inquiétants, tels que la possibilité que des systèmes d'intelligence artificielle soient utilisés pour déployer des armes biologiques qui se répandraient silencieusement dans les grandes villes, avec un danger croissant par activation chimique, ce qui pourrait entraîner une large extermination de l'humanité.

Net Sories, un ingénieur en intelligence artificielle éminent et actuel président de l'Institut de recherche sur l'intelligence artificielle, a confirmé que la probabilité d'extinction de l'humanité à cause de l'intelligence artificielle n'était pas inférieure à 95% si les choses continuaient à ce rythme, comparant la situation à celle de conduire une voiture à 100 miles à l'heure vers une pente abrupte, en disant : « Je ne dis pas que nous ne pouvons pas nous arrêter, mais nous allons à toute vitesse vers le précipice ».

Les experts notent que l'intelligence artificielle est encore à ses débuts comme « intelligence étroite », limitée à des tâches spécifiques, mais les prévisions indiquent qu'elle atteindra bientôt ce que l'on appelle l'intelligence artificielle générale, qui rivalisera avec l'intelligence humaine, puis évoluera vers une intelligence artificielle surpuissante, capable de réaliser des exploits dépassant l'imagination, mais qui représente en même temps un défi colossal pour garantir que ces systèmes restent sous contrôle humain, un problème connu sous le nom d'alignement de l'intelligence, qui semble presque impossible.

Des rapports ont mis en garde que ces systèmes pourraient mentir et tromper, et jusqu'à présent, les systèmes d'intelligence artificielle affichent des comportements étranges qui pourraient indiquer des tentatives de tromperie ou de déformation des faits, ce qui accroît l'inquiétude quant à la perte de contrôle sur ces derniers.

Dans ce contexte, Holly Elmore, directrice exécutive de l'organisation « PauseAI », estime que le risque d'extinction est bien moindre, évaluant les probabilités entre 15 et 20%, mais elle avertit que l'intelligence artificielle conduira au moins à un abandon progressif du pouvoir humain, réduisant les humains à vivre dans des décharges incontrôlées, sans compréhension de ce qui se passe autour d'eux.

Elmore appelle à une pause temporaire dans le développement de l'intelligence artificielle et à l'établissement de traités internationaux pour la réguler, en réponse à une accélération politique et commerciale pour assouplir les restrictions sur la recherche en intelligence artificielle, comme l'a montré le récent plan de l'administration Trump et la concurrence des grandes entreprises technologiques pour attirer les meilleurs talents dans le domaine.

Alors que certains voient l'intelligence artificielle comme un espoir pour la vie éternelle et l'immortalité, de nombreux experts mettent en garde que l'enfer pourrait être le scénario le plus probable, rendant inévitable l'arrêt de cette course folle avant qu'il ne soit trop tard.