Module métier · 149,99 €
Défendre
Red Teaming
Sécurité offensive appliquée à la défense : casser pour savoir protéger.
La question à laquelle il répond : « Comment je sécurise un système à base d’IA ? »
12
chapitres
1
module
2 h
de lecture
62
termes
Glossaire du cursus · 62Les 1 premiers chapitres sont en accès libre. Le reste demande le niveau Red Teaming.
Extrait libre : 1 chapitreDébloquer ce niveau
RED-TEAMING
Red Teaming
12 chapitres- 1Le cadre : ce que tu as le droit de faireTon système, un mandat écrit, ou un délit : trois cases, aucune nuance entre elles.
- Comment un modèle est bridé, et pourquoi ça cèdeAlignement, prompt système, filtre d'entrée, filtre de sortie : quatre couches ajoutées autour d'un moteur qui n'a pas de cloison.
- Le prompt système : le secret qui n'en est pas unCe que les entreprises y déposent, pourquoi ça finit toujours par se voir, et où placer les vraies serrures.
- L'injection de prompt directePourquoi un modèle ne sait pas qui lui parle, et ce que ça oblige à construire autour.
- L'injection indirecte : l'attaque qui ne vient pas de toiQuand le texte qu'une IA lit contient les ordres qu'elle exécute.
- Les familles de jailbreak, et pourquoi elles fonctionnentCinq mécanismes, ce que chacun exploite dans l'entraînement, et le contrôle qui l'arrête.
- Fuite de données : ce que ton IA raconte sans le vouloirCinq portes de sortie, un index qui ignore les habilitations, et les gestes qui referment.
- Quand l'IA peut agir : la surface exploseUn modèle qui parle produit du texte. Un agent qui agit produit des conséquences.
- Tester son propre système : la méthodePérimètre signé, scénarios tirés d'un référentiel, jeu de cas rejouable, taux mesuré, fiche de constat.
- Défendre pour de vrai : la défense en profondeurAucune couche ne suffit. On empile, et on sait ce que chacune laisse passer.
- L'autre côté : arnaques, faux modèles et voix clonéesReconnaître une voix, un visage ou un style n'authentifie plus personne. Ce qui reste, c'est la procédure écrite.
- En faire une pratique, et peut-être un métierOù s'entraîner légalement, comment écrire un rapport qui sera lu, et comment ne pas être périmé dans six mois.