Aller au contenu
Building SocietyGuide IA

Red Teamingchapitre 7 sur 1210 min

Fuite de données : ce que ton IA raconte sans le vouloir

Cinq portes de sortie, un index qui ignore les habilitations, et les gestes qui referment.

En avril 2023, des ingénieurs de Samsung Electronics ont collé du code source interne dans un assistant conversationnel. Aucune attaque, un copier-coller. Le chapitre 5 a montré qu'une IA se pilote par ce qu'elle lit ; reste à savoir par où ça ressort.

À la fin de ce chapitre, tu sauras :

  • Nommer les cinq canaux par lesquels une donnée sort d'un système à base de LLM.
  • Dire si ton système de recherche documentaire filtre les habilitations avant ou après la recherche, et pourquoi après ne protège rien.
  • Poser le pré-filtrage, le cloisonnement par client et la rétention courte dans ta propre architecture.

Module métier

Ce chapitre fait partie du niveau Red Teaming

Sécurité offensive appliquée à la défense : casser pour savoir protéger.

149,99 €

Prix catalogue.

Déjà acheté ? Connecte-toi.