Mayssa Ben M’rad décrypte les nouvelles menaces de l’intelligence artificielle : « La cybersécurité de l’IA doit devenir une priorité »

Invitée par le journaliste Mondher Zid sur les ondes de RTCI, l’étudiante en cycle ingénieur à la Faculté des Sciences de Tunis livre une analyse approfondie des cyberattaques visant les systèmes d’intelligence artificielle et expose les stratégies indispensables pour bâtir une IA plus sûre et plus résiliente.

À mesure que l’intelligence artificielle s’impose dans notre quotidien, les questions liées à sa sécurité deviennent plus cruciales que jamais. Des assistants conversationnels aux véhicules autonomes, en passant par les systèmes de santé, la finance ou les administrations publiques, les modèles d’IA occupent désormais une place centrale dans les processus décisionnels. Cette révolution technologique s’accompagne toutefois d’une réalité souvent méconnue : les systèmes d’intelligence artificielle sont eux aussi la cible de cyberattaques de plus en plus sophistiquées.

C’est autour de cette problématique d’actualité que Mondher Zid, journaliste à RTCI, a reçu Mayssa Ben M’rad, étudiante en cycle ingénieur en génie logiciel à la Faculté des Sciences de Tunis et auteure de plusieurs articles spécialisés en cybersécurité. Au cours de cet entretien, elle a présenté son dernier travail de recherche, intitulé « Sécurité de l’IA : Panorama des attaques et des stratégies de prévention et de défense », offrant un éclairage complet sur les vulnérabilités des modèles d’intelligence artificielle et les moyens de les protéger.

Une intelligence artificielle puissante… mais de plus en plus exposée

En ouverture de l’entretien, Mayssa Ben M’rad rappelle que l’intelligence artificielle ne peut plus être considérée comme un simple outil informatique. Avec l’essor des grands modèles de langage (LLM), tels que ChatGPT, l’IA influence désormais les décisions, automatise des tâches critiques et intervient dans des secteurs où la moindre erreur peut avoir des conséquences majeures.

Cette transformation crée cependant de nouvelles surfaces d’attaque. Les cybercriminels ne ciblent plus uniquement les réseaux ou les infrastructures informatiques : ils cherchent désormais à compromettre les données utilisées pour entraîner les modèles, à manipuler leur comportement ou encore à contourner leurs mécanismes de sécurité.

« Plus les systèmes deviennent intelligents, plus leur protection doit être pensée dès leur conception », souligne-t-elle.

Les données d’entraînement : le premier maillon de la chaîne

Pour Mayssa Ben M’rad, la qualité des données constitue le fondement de toute intelligence artificielle performante. Si ces données sont altérées, c’est tout le modèle qui risque d’être faussé.

Elle évoque notamment le Data Poisoning, une attaque consistant à introduire dans les jeux de données des informations volontairement erronées, biaisées ou falsifiées afin d’influencer l’apprentissage du modèle.

Les conséquences peuvent être lourdes : erreurs de classification, prédictions inexactes, biais artificiels ou encore comportements inattendus pouvant affecter directement les utilisateurs.

Dans les secteurs sensibles comme la santé, la finance ou les services publics, une telle compromission peut entraîner des décisions particulièrement préjudiciables.

Afin de limiter ces risques, l’étudiante insiste sur la nécessité de mettre en œuvre des procédures rigoureuses de contrôle, de validation et de surveillance des données avant toute phase d’entraînement.

Les « Backdoor Attacks » : des pièges invisibles au cœur des modèles

L’entretien aborde également les Backdoor Attacks, une forme particulièrement insidieuse d’empoisonnement des données.

Le principe est simple : intégrer discrètement un comportement malveillant qui ne s’active qu’en présence d’un élément déclencheur spécifique (trigger).

Pour illustrer cette menace, Mayssa Ben M’rad prend l’exemple d’un système de reconnaissance des panneaux de signalisation. Un modèle compromis pourrait interpréter un panneau « Stop » comme une limitation de vitesse, provoquant ainsi des décisions potentiellement dangereuses dans un véhicule autonome.

La difficulté réside dans le fait que le modèle paraît parfaitement fiable tant que le déclencheur n’est pas activé.

Quand les modèles deviennent eux-mêmes la cible

Les cyberattaquants ne se contentent plus de manipuler les données. Les modèles d’intelligence artificielle constituent désormais des actifs stratégiques que certaines organisations cherchent à protéger.

Parmi les menaces les plus sérieuses figure le Model Stealing, également appelé Model Extraction Attack. Cette technique consiste à reproduire le fonctionnement d’un modèle en exploitant son interface ou son API grâce à un grand nombre de requêtes soigneusement élaborées.

Une telle attaque peut permettre à un concurrent ou à un acteur malveillant de copier plusieurs années de recherche et de développement, compromettant ainsi les investissements réalisés par les entreprises.

Autre risque majeur : le Model Inversion, qui vise à reconstituer des informations sensibles utilisées lors de l’entraînement d’un modèle. Dans certains cas, des chercheurs ont démontré qu’il était possible de récupérer des fragments de données médicales ou personnelles, illustrant les enjeux considérables liés à la confidentialité.

Les grands modèles de langage face à de nouvelles formes de manipulation

L’échange avec Mondher Zid s’est ensuite concentré sur les attaques propres aux grands modèles de langage.

La plus connue demeure le Prompt Injection, qui consiste à insérer des instructions destinées à détourner le comportement du modèle afin d’obtenir des réponses non prévues ou de contourner les mécanismes de sécurité.

Plus sophistiquée encore, l’Indirect Prompt Injection exploite des contenus externes — documents PDF, courriels ou pages web — contenant des instructions invisibles pour l’utilisateur mais interprétées par l’IA.

Mayssa Ben M’rad cite notamment le cas de CV contenant du texte blanc sur fond blanc demandant au système de recrutement alimenté par l’IA de classer automatiquement leur auteur en première position. Une démonstration concrète des nouveaux défis auxquels devront faire face les applications intelligentes.

Elle évoque également le Jailbreaking, une technique reposant sur des scénarios fictifs destinés à convaincre un modèle d’ignorer temporairement ses règles de sécurité et ses garde-fous éthiques.

Penser la sécurité tout au long du cycle de vie de l’IA

Pour l’auteure, la cybersécurité de l’intelligence artificielle ne peut se limiter à une simple protection du modèle une fois celui-ci déployé.

Elle doit être intégrée dès les premières étapes du développement.

Cela implique notamment de garantir l’intégrité des données, de recourir au chiffrement, à l’anonymisation et à la pseudonymisation lorsque cela est nécessaire, mais aussi de mettre en place des mécanismes capables de détecter les tentatives de Data Poisoning, de Backdoor Attacks ou de vol de modèles.

À ces mesures s’ajoutent des audits réguliers de sécurité, des tests d’intrusion et une surveillance continue afin d’identifier rapidement les nouvelles vulnérabilités.

Une course permanente entre innovation et cybersécurité

En conclusion de cet entretien, Mayssa Ben M’rad rappelle que l’évolution rapide de l’intelligence artificielle entraînera inévitablement l’apparition de nouvelles formes de menaces. Les agents autonomes, les systèmes multi-agents et les infrastructures d’IA de plus en plus interconnectées imposeront une adaptation constante des stratégies de défense.

Dans cette course technologique, la cybersécurité ne doit plus être perçue comme une contrainte, mais comme une condition essentielle de confiance. Les solutions de demain reposeront d’ailleurs de plus en plus sur… l’intelligence artificielle elle-même, appelée à détecter, anticiper et neutraliser les attaques visant ses propres systèmes.

À travers cette intervention sur RTCI, conduite par Mondher Zid, Mayssa Ben M’rad livre une analyse à la fois pédagogique et rigoureuse d’un sujet devenu incontournable. Son travail met en évidence une réalité désormais incontestable : à l’ère de l’intelligence artificielle générative, l’innovation ne peut être durable sans une cybersécurité pensée comme un pilier fondamental de la transformation numérique.