HELMo
Inscription

UE63 Sécurité des systèmes IA

En pratique

  • Cette unité d'enseignement (UE) articule 1 activité d'apprentissage :
    • Sécurité des systèmes IA
  • En 2026-2027, elle s'organise au premier quadrimestre et couvre 2 crédits (ECTS).
  • L'enseignement est principalement centralisé dans le campus : Département Informatique
  • Cette UE est remédiable d'une session à l'autre

Activité d’apprentissage

Les finalités de l'UE

Les systèmes d'intelligence artificielle, notamment les applications construites autour de modèles de langage, sont de plus en plus intégrés dans les outils des entreprises. Ils introduisent de nouvelles surfaces d'attaque et modifient certaines frontières de confiance, sans remplacer les vulnérabilités classiques.


Cette UE prépare l'étudiant.e à évaluer la sécurité de ces systèmes selon une démarche de test offensif, dans la continuité des UE consacrées aux architectures sécurisées, aux infrastructures réseaux et aux vulnérabilités. Elle ne vise pas à former des spécialistes de l'intelligence artificielle, mais à donner à de futur.es professionnel.les de la cybersécurité une compréhension suffisante de ces systèmes pour les tester et contribuer à leur sécurisation.

Les contenus de l'UE

L'UE aborde la sécurité des applications intégrant de l'intelligence artificielle sous l'angle du test d'intrusion. Les contenus portent notamment sur :

  • les notions nécessaires à la compréhension du fonctionnement de ces systèmes du point de vue de la sécurité ;
  • leur architecture, leurs surfaces d'attaque et leurs frontières de confiance ;
  • les principales catégories de vulnérabilités qui leur sont propres, ainsi que leurs interactions avec les vulnérabilités classiques ;
  • une démarche méthodique de test, de documentation et de remédiation ;
  • les référentiels du secteur ;
  • le cadre légal et déontologique du test de sécurité.

Les acquis d'apprentissage visés par l'UE

Au terme de cette UE, l'étudiant.e devrait être capable :

  • AA1 – Comprendre et mobiliser les concepts : d'expliquer et de relier les principaux concepts abordés concernant le fonctionnement et la sécurité des systèmes intégrant de l'intelligence artificielle.
  • AA2 – Analyser et identifier : d'analyser l'architecture d'un système intégrant de l'intelligence artificielle afin d'en identifier les surfaces d'attaque et les frontières de confiance.
  • AA3 – Exploiter et évaluer : d'exploiter de manière contrôlée, dans un cadre autorisé, des vulnérabilités de ces systèmes et d'en évaluer l'impact.
  • AA4 – Interpréter et remédier : d'interpréter les résultats d'un test, de justifier la démarche suivie et de proposer des mesures de correction adaptées.

Les méthodes d'enseignement-apprentissage

L'UE alterne des séances théoriques et des séances de laboratoire. La théorie introduit les notions et les illustre par des démonstrations. Les laboratoires permettent à l'étudiant.e de manipuler des applications volontairement vulnérables dans un environnement contrôlé, de tester les attaques abordées et d'observer leurs conséquences. Les référentiels du secteur servent de vocabulaire commun pour situer et nommer les vulnérabilités rencontrées.

Engagement attendu de la part de l'étudiant.e

La matière s'acquiert surtout par la pratique. Il est conseillé de manipuler régulièrement l'environnement proposé plutôt que d'attendre la fin d’année, et de faire le lien avec les acquis des UE de sécurité déjà suivies. Une prise de notes personnelle et une consultation régulière des communications sur HELMo Learn et/ou à l'adresse @student.helmo.be font partie des conditions de réussite.

Examen écrit

Cette épreuve présente des modalités similaires pour toutes les sessions. Elle est organisée durant la session. Il s'agit d'un examen. Cette épreuve est individuelle. Concrètement, l'épreuve repose sur une formulation écrite. La correction de cette épreuve est assurée par validation d'un.e enseignant.e.

Règles de l’UE

Quels sont les supports et matériels de cours indispensables ?

Supports et matériels de cours

Les supports nécessaires (notes, énoncés de laboratoire, environnement technique et références) sont mis à disposition dans l'espace HELMo Learn dédié à l'UE. L'étudiant.e doit disposer d'un ordinateur portable personnel permettant d'installer et d'exécuter l'environnement de laboratoire fourni. Aucun autre achat spécifique n'est requis.

Comment la note globale de l’UE est-elle déterminée ?

Explication de la pondération des différentes épreuves

L'UE est évaluée par une épreuve individuelle unique d'une durée maximale de trois heures.

Elle comporte deux parties :

  • une partie écrite d'analyse : à partir de cas concrets (schéma d'architecture, extrait de trafic ou de journal, constat à corriger), l'étudiant.e identifie les vulnérabilités, explique les mécanismes en jeu et propose des remédiations.
  • une partie pratique : le test d'une application volontairement vulnérable, inédite, dans un environnement fourni. L'étudiant.e y découvre et exploite des vulnérabilités, puis documente ses constats (chemin reproductible, preuve, impact, remédiation).

Les travaux réalisés en laboratoire ne sont pas évalués.

La partie écrite évalue les acquis AA1, AA2 et AA4. 

La partie pratique évalue les acquis AA2, AA3 et AA4.

Tout acquis d'apprentissage non acquis entraine automatiquement l'échec à l'UE.

La seconde session reprend le même format d'épreuve. Aucune dispense ne sera octroyée d'une session à une autre.

Quelles sont les informations administratives de cette UE ?