# Section 11 · Sécurité d'exécution Principe directeur : la sécurité se joue sur les actions, pas sur l'affichage. La lecture peut rester ouverte ; ce sont les mutations et les effets de bord qui sont gardés. ## Contrôle d'accès à trois niveaux | Niveau | Mécanisme | Effet | | --- | --- | --- | | Outil | Filtrage du registre selon le rôle, avant l'envoi au modèle. | Le modèle ne connaît pas un outil qu'il n'a pas le droit d'appeler. | | Donnée | Garde qui vérifie l'appartenance ou le périmètre avant une mutation. | Un acteur ne modifie que ce qui le concerne. | | Requête | Lecture libre, écriture bloquée pour les accès génériques (par exemple requêtes en lecture seule). | Analyse large possible, mutation impossible par ce canal. | ## L'identité de l'agent Avant de filtrer ce qu'un agent peut faire, il faut savoir qui agit. Chaque agent est un principal identifié, distinct de l'utilisateur pour le compte duquel il opère. Il porte sa propre identité, à moindre privilège ; quand il agit pour un utilisateur, la délégation est explicite, bornée dans le temps et dans le périmètre, jamais l'emprunt des pleins droits de la personne. L'audit distingue ainsi toujours deux choses : qui a agi, l'agent, et pour qui, l'utilisateur. Corollaire de registre : un agent qui agit sans être connu du registre est une anomalie de sécurité, à traiter comme telle. L'emplacement de cette identité, gestion d'accès existante ou brique dédiée, est une décision d'infrastructure qui se prend par-dessus ; le principe, lui, ne varie pas. ## L'approbation humaine ancrée dans le contrat de l'outil Les outils à impact déclarent dans leur contrat qu'ils requièrent une approbation. Avant l'exécution, l'infrastructure déclenche une demande d'approbation : accepter, refuser, ou éditer les arguments. Si refusé, l'exécution n'a jamais lieu. La garde ne dépend pas de la discipline du modèle ; elle est portée par l'infrastructure, donc garantie. Mais une approbation ne doit pas geler un processus vivant. Si l'humain n'est pas là, l'agent ne reste pas suspendu en mémoire à monopoliser des ressources jusqu'au délai d'expiration. Il passe dans un état explicite « suspendu » : sa trajectoire est sérialisée dans l'état durable, une projection de la mémoire de travail ; le processus se libère ; et le système réhydrate l'agent à l'arrivée de la décision, des minutes ou des heures plus tard, exactement là où il s'était arrêté. C'est la reprise sur point de reprise (section 07) appliquée à l'attente humaine : une suspension, pas un blocage. Les demandes à faible urgence sont regroupées et priorisées dans une file, présentées en résumé, pour ne pas noyer l'humain ni l'inciter à valider en aveugle. Ce résumé est lui-même une surface d'attaque : il doit être déterministe et fidèle aux arguments réels de l'outil, jamais une reformulation par le modèle, sinon une action injectée se glisse dans le lot et l'injection se réintroduit au point de contrôle. Le fail-closed reste entier, sans payer le prix d'un agent gelé. ## Schéma, le cycle de suspension > Schéma : Action sensible · demande d'approbation · ÉTAT SUSPENDU · état sérialisé · ressources libérées · Décision humaine · file priorisée, par lot · Reprise exacte · Suspendre, pas bloquer : le fail-closed sans jamais geler l'agent. ## Isolation des dépendances et surface exposée - Sidecars isolés : une capacité spécialisée tourne dans son propre processus, avec accès restreint et disjoncteur en cas de défaillance. - Exécution éphémère : une exécution à risque, code généré ou traitement de contenu non fiable, tourne dans un environnement jetable, provisionné par tâche et détruit après usage. Ce qui est détruit ne se compromet pas durablement : l'éphémère borne dans le temps ce qu'une compromission peut atteindre. - Surface d'outils exposée gardée : le serveur d'outils que le système publie est protégé par clé et limite de débit, et n'est ouvert au-delà du local que de manière contrôlée. - Secrets et données sensibles : isolés derrière la configuration typée, jamais dans le domaine. Et un cran plus loin pour les secrets d'exécution : le secret ne traverse jamais la frontière du modèle ni celle de l'environnement d'exécution. L'agent ne manipule qu'un substitut ; la clé réelle est attachée par l'infrastructure à la frontière réseau, vers les seules destinations explicitement autorisées, et se remplace sans redéploiement. Un secret que le modèle n'a jamais vu ne peut pas être divulgué : cette garde est structurelle, pas comportementale, et elle retire à l'injection son butin le plus convoité. ## Entrées non fiables et injection de prompt La menace de premier rang d'un système agentique est l'injection de prompt : des instructions hostiles glissées dans l'entrée. Sa forme directe vient de l'utilisateur ; sa forme indirecte, plus pernicieuse, se cache dans le contenu récupéré (page, document, souvenir) et se déclenche quand le modèle l'ingère. Elle est donc intrinsèque à toute mémoire ou récupération (§06). Le pire cas naît d'une triade : accès à des données privées, ingestion de contenu non fiable, et moyen de communication vers l'extérieur, réunis sur un même chemin non gardé ; retirer un seul des trois le désamorce. D'où une règle opérationnelle, dont la fenêtre est celle du contexte : tant qu'un contenu non fiable est présent dans le contexte, n'autoriser que deux de ces trois propriétés à la fois ; si les trois sont réellement nécessaires, l'action ne s'exécute pas en autonomie, elle passe sous supervision humaine. La fenêtre n'est ni le tour, trop étroit puisque le contenu ingéré persiste au-delà, ni la session entière, trop large : elle s'ouvre à l'ingestion et ne se referme qu'avec la purge du contenu hors du contexte. On ne s'en défend pas par la détection, peu fiable sur l'injection indirecte, mais par l'architecture : le modèle n'est pas un périmètre de confiance, et une fois du contenu non fiable ingéré, l'éventail d'actions se referme. Le socle, non négociable dès qu'on ingère de l'externe : - Contenu non fiable séparé des instructions : le récupéré est traité comme une donnée, jamais comme un ordre. - Moindre privilège des outils : le modèle ne voit que ce qu'il a le droit d'appeler (cf. contrôle d'accès ci-dessus). - Approbation humaine sur l'action conséquente et la communication externe. - Validation des sorties d'outils et du modèle avant qu'elles n'agissent. - Journal immuable (§07) : toute action issue d'une injection reste traçable et réversible. Pour les déploiements à fort privilège, on contraint davantage l'agent par des patterns dédiés, proportionnés au risque : n'autoriser qu'un choix d'actions pré-approuvées (action-selector), figer le plan avant d'exposer le modèle aux sorties d'outils (plan-then-execute), isoler le traitement du contenu non fiable, le purger du contexte après usage, voire séparer un modèle privilégié qui planifie d'un modèle « en quarantaine » qui ne fait que lire le non-fiable (dual LLM). Aucun modèle n'étant immunisé, la sécurité reste une propriété de l'architecture, dont la profondeur s'ajuste au risque. ## Conformité par construction La combinaison contrôle d'accès, séparation du contenu non fiable, approbation humaine, traçabilité complète et traitement souverain des données outille les exigences de documentation, de supervision humaine et de transparence attendues en environnement régulé : elle y contribue sans s'y substituer. Le droit à l'effacement est tenu sans rompre l'audit, en rendant une donnée illisible plutôt qu'en brisant la chaîne immuable (§08). La sécurité n'est pas une couche ajoutée, elle est répartie sur les frontières du système. **À retenir** - La sécurité porte sur les actions, pas l'affichage : lecture ouverte, mutation gardée. - Contrôle d'accès à trois niveaux : outil, donnée, requête. - L'agent est un principal identifié, distinct de l'utilisateur qu'il sert : délégation explicite et bornée, jamais l'emprunt des pleins droits ; l'audit distingue qui a agi et pour qui. - L'approbation humaine est ancrée dans le contrat de l'outil, garantie par l'infrastructure. - Une approbation suspend l'agent (état durable) et le réhydrate à la décision, plutôt que de bloquer le processus ; demandes à faible urgence regroupées en file priorisée. - Sidecars isolés, surface exposée gardée, données souveraines ; le secret d'exécution ne traverse jamais la frontière du modèle ni de l'environnement : substitut côté agent, clé réelle attachée à la frontière réseau. - Injection de prompt = menace de premier rang, intrinsèque à la mémoire : on ne détecte pas, on contraint par l'architecture (moindre privilège, approbation, séparation du non-fiable, triade létale brisée sur la fenêtre du contexte). --- © Thibault Souris, 2026 · Creative Commons BY-ND 4.0 (https://creativecommons.org/licenses/by-nd/4.0/deed.fr) · texte de l’œuvre sans modification, mis en texte brut pour cette page ; la version PDF fait foi : https://runward.dev/docs/reference/doctrine/Concevoir-et-executer-des-systemes-agentiques-2026.pdf