Des experts avertissent : l'intelligence artificielle pourrait mener des attaques électroniques toute seule

SadaNews - Une équipe d'experts a averti que les modèles d'intelligence artificielle améliorent leurs compétences en piratage, indiquant que leur capacité à mener des attaques électroniques entièrement de manière autonome semble être « inévitable ».

Selon le site « Axios », des dirigeants des entreprises « Anthropic » et « Google » témoigneront aujourd'hui devant deux sous-comités de la commission de la sécurité intérieure de la Chambre des représentants américaine sur la façon dont l'intelligence artificielle et d'autres technologies émergentes transforment le paysage des menaces électroniques.

Logan Graham, responsable de l'équipe de test d'intelligence artificielle chez « Anthropic », a écrit dans son témoignage d'ouverture, publié exclusivement sur le site « Axios » : « Nous pensons que cela est le premier indicateur d'un avenir où les modèles d'intelligence artificielle, malgré des garanties solides, pourraient permettre aux entités menaçantes de lancer des attaques électroniques à une échelle sans précédent ».

Il a ajouté : « Ces attaques électroniques pourraient devenir plus complexes tant par leur nature que par leur ampleur ».

La société « OpenAI » a averti la semaine dernière que les modèles d'intelligence artificielle futurs auraient probablement des capacités cybernétiques à haut risque, ce qui réduirait considérablement la compétence et le temps nécessaires pour réaliser certains types d'attaques cybernétiques.

De plus, une équipe de chercheurs de l'Université de Stanford a publié un document de recherche montrant comment un programme d'intelligence artificielle nommé Artemis a découvert des vulnérabilités dans l'un des réseaux du département de génie de l'université, surpassant 9 des 10 chercheurs humains impliqués dans l'expérience.

Des chercheurs des laboratoires Irregular Labs, spécialisés dans les tests de sécurité sur les modèles d'intelligence artificielle de pointe, ont également rapporté avoir observé des « preuves croissantes » d'amélioration des modèles d'intelligence artificielle dans les tâches d'attaque cybernétique.

Cela inclut des améliorations dans l'ingénierie inverse, la construction de vulnérabilités, la séquence des vulnérabilités, et l'analyse de code.

Il y a juste dix-huit mois, ces modèles souffraient de « capacités de programmation limitées, d'un manque de profondeur de raisonnement et d'autres problèmes », a précisé la société Irregular Labs.

La société a ajouté : « Imaginez ce qu'ils seront capables de faire dans dix-huit mois à partir de maintenant ».

Cependant, malgré cela, les attaques électroniques entièrement basées sur l'intelligence artificielle sont encore loin d'être réalisables. Actuellement, ces attaques nécessitent des outils spécialisés, ou une intervention humaine, ou une intrusion dans les systèmes des entreprises.

Cela a été clairement illustré dans le rapport choquant d'« Anthropic » le mois dernier, où les pirates informatiques du gouvernement chinois ont dû tromper le programme d'intelligence artificielle Cloud de l'entreprise en le convainquant qu'il effectuait un test de pénétration ordinaire avant de commencer à pirater les entreprises.

Les législateurs consacreront l'audience d'aujourd'hui (mercredi) à examiner comment les pirates informatiques étatiques et les cybercriminels utilisent l'intelligence artificielle, et s'il y a besoin de modifications dans les politiques et réglementations pour améliorer la réponse à ces attaques.