Comment l'IA va-t-elle rebattre les cartes de la cybersécurité ?

Auteur(s)
France-Soir
Publié le 14 mars 2024 - 15:10
Image
Ordinateur et cybersécurité
Crédits
Jefferson Santos - UNSPLASH - DR
Jefferson Santos - UNSPLASH - DR

Le ver est dans la pomme. Des chercheurs spécialisés dans la cybersécurité ont mis au point un ver informatique capable d'infester les systèmes d'intelligence artificielle pour voler des données, envoyer des spams ou propager des logiciels malveillants. La malveillance va connaître une nouvelle ère.

L'information provient du site américain Wired, rapportée par Courrier International. Baptisé Moris II, le ver informatique auquel les chercheurs ont donné naissance utilise un "adversarial self-replicating prompt", des instructions autoréplicatives. Concrètement, il s'agit d'une technique de "manipulation" de la machine : avec un prompt (une consigne textuelle) spécifique, le ver entraîne l'IA à générer un autre prompt elle-même. Ainsi, "il est capable de les manipuler pour leur faire dévoiler des informations contenues dans un courriel ou pour leur faire propager des spams via une boîte de messagerie". 

"En résumé, cela signifie qu’il est désormais possible de mener une cyberattaque d’un genre complètement nouveau", explique Ben Nassi, chercheur à Cornell Tech. Avec d'autres chercheurs, il a mené l'étude en utilisant Gemini Pro de Google, ChatGPT 4.0 d’OpenAI et LLaVA de l’université du Wisconsin-Madison. Dans leur cas, l'expérience demeure "virtuelle" et contrôlée. Mais selon leur rapport, ce genre d'attaques en cybersécurité pourraient advenir en conditions réelles d'ici à deux ans maximum.

OpenAI (ChatGPT) a promis à ce sujet qu'elle travaillerait pour que ses systèmes soient "plus résilients" et que les développeurs "utilisent des méthodes veillant à ne pas employer de commande nuisible".

L'article vous a plu ? Il a mobilisé notre rédaction qui ne vit que de vos dons.
L'information a un coût, d'autant plus que la concurrence des rédactions subventionnées impose un surcroît de rigueur et de professionnalisme.

Avec votre soutien, France-Soir continuera à proposer ses articles gratuitement  car nous pensons que tout le monde doit avoir accès à une information libre et indépendante pour se forger sa propre opinion.

Vous êtes la condition sine qua non à notre existence, soutenez-nous pour que France-Soir demeure le média français qui fait s’exprimer les plus légitimes.

Si vous le pouvez, soutenez-nous mensuellement, à partir de seulement 1€. Votre impact en faveur d’une presse libre n’en sera que plus fort. Merci.

Je fais un don à France-Soir

Dessin de la semaine

Portrait craché

Image
Obama
Barack Obama, un continuum Soros/WEF teinté d’un paradoxe Kissinger/Nobel
PORTRAIT CRACHE - Barack Obama est ce personnage contradictoire, ambigu, voire bicéphale, prêcheur de justice sociale financé par des Soros, Buffet et Goldman Sachs, v...
25 mai 2024 - 12:00
Politique
Soutenez l'indépendance de FS

Faites un don

Nous n'avons pas pu confirmer votre inscription.
Votre inscription à la Newsletter hebdomadaire de France-Soir est confirmée.

La newsletter France-Soir

En vous inscrivant, vous autorisez France-Soir à vous contacter par e-mail.