Un document peut contenir du texte qui ressemble à une instruction pour l’assistant. Cette instruction ne doit pas acquérir les droits de l’utilisateur ou modifier les règles du système.
Décrire le scénario d’attaque
Dans un exemple fictif, un document importé demande au modèle d’envoyer les autres fichiers vers une adresse externe. L’utilisateur a demandé un résumé, pas un envoi. La frontière à protéger est celle entre contenu à lire et action autorisée.
| Surface | Contrôle à prévoir |
|---|---|
| Documents récupérés | Traiter leur texte comme une source non fiable |
| Outils disponibles | Limiter les actions au besoin du parcours |
| Données consultables | Appliquer les droits de l’utilisateur |
| Action externe | Présenter portée et contenu avant autorisation |
Tester les conséquences
Préparez des documents contenant de fausses consignes, des demandes de secrets et des liens trompeurs. Vérifiez le comportement complet, pas seulement la formulation de la réponse. Un refus textuel ne suffit pas si un outil a déjà exécuté l’action.
Une consigne dans le prompt suffit-elle ?
Non. Limitez les capacités, validez les paramètres d’outils et contrôlez les accès hors du modèle. Séparez lecture et exécution, journalisez les actions utiles et prévoyez une interruption. Cette fiche décrit un cadrage de défense ; elle ne remplace pas une revue spécialisée du système et de ses intégrations.
Sources et lectures utiles
Du guide à votre projet
Intelligence artificielle ↗
Nous partons d’une tâche et d’un critère de qualité. L’IA intervient quand elle améliore réellement le service rendu.
Parlez-nous de votre idéeLes exemples sont pédagogiques et ne décrivent pas des résultats clients. Contenu préparé avec assistance IA ; voir notre politique éditoriale. Notre méthode ↗