Red Teamingchapitre 7 sur 1210 min
Fuite de données : ce que ton IA raconte sans le vouloir
Cinq portes de sortie, un index qui ignore les habilitations, et les gestes qui referment.
En avril 2023, des ingénieurs de Samsung Electronics ont collé du code source interne dans un assistant conversationnel. Aucune attaque, un copier-coller. Le chapitre 5 a montré qu'une IA se pilote par ce qu'elle lit ; reste à savoir par où ça ressort.
À la fin de ce chapitre, tu sauras :
- Nommer les cinq canaux par lesquels une donnée sort d'un système à base de LLM.
- Dire si ton système de recherche documentaire filtre les habilitations avant ou après la recherche, et pourquoi après ne protège rien.
- Poser le pré-filtrage, le cloisonnement par client et la rétention courte dans ta propre architecture.
Module métier
Ce chapitre fait partie du niveau Red Teaming
Sécurité offensive appliquée à la défense : casser pour savoir protéger.
149,99 €
Prix catalogue.
Déjà acheté ? Connecte-toi.