Exécution & Outils / Runtime Guardrail
FR EN

Exécution & Outils

Runtime Guardrail

Bac à sable d’exécution : il isole et contraint l’exécution effective des outils et du code décidés par l’agent.

Plan
Exécution & Outils
Étapes du flux
7
Référentiels
NIST 800-53 · OWASP LLM05/06

Technologie

Pourquoi l’utiliser

Exécuter les outils et le code de l’agent dans un environnement isolé et borné.

Pourquoi c’est important pour la sécurité

Contient le rayon d’impact : même détourné, l’agent ne peut sortir du bac à sable ni atteindre ce qui ne lui est pas alloué.

Implémentations gVisorFirecrackerconteneurs sans privilègeE2B

Présumez la compromission : confinez l’exécution pour que la brèche reste locale.

Recommandations par palier de maturité

Survolez une recommandation pour l’explication · chaque recommandation porte son numéro de contrôle

Foundation

Socle minimal viable
  • Exécution en environnement isolé (conteneur/sandbox).
    NIST 800-53 SC-39 · SC-7
    L’isolation de processus empêche un outil de toucher l’hôte.
  • Aucun privilège superflu (non-root, capacités minimales).
    NIST 800-53 AC-6
    Le moindre privilège limite ce qu’une compromission peut faire.
  • Réseau sortant restreint par défaut.
    NIST 800-53 AC-4 · SC-7
    Couper l’egress par défaut bloque l’exfiltration simple.

Enterprise

Standard d’entreprise
  • Quotas de ressources (CPU, mémoire, temps).
    NIST 800-53 SC-5
    Borner les ressources contient l’abus et l’emballement.
  • Systèmes de fichiers éphémères et en lecture seule.
    NIST 800-53 SI-14
    La non-persistance efface l’état entre exécutions.
  • Validation des entrées/sorties d’outils.
    NIST 800-53 SI-10OWASP LLM05:2025
    Entrée et sortie d’outil sont traitées comme non fiables.

Advanced

Haute exigence / régulé
  • Allocation de privilèges juste-à-temps par exécution.
    NIST 800-53 AC-6
    Les droits n’existent que le temps de l’appel.
  • Détection comportementale dans le bac à sable.
    NIST 800-53 SI-4
    Un comportement d’exécution anormal est bloqué en direct.
  • Politiques d’exécution en code, testées.
    NIST 800-53 CM-3
    Les bornes d’exécution sont versionnées et vérifiées.

Notes d’architecture

  • Coupez l’egress par défaut.détails ▸
    La plupart des exfiltrations passent par une connexion sortante banale.
    N’autorisez que les destinations strictement nécessaires, en liste blanche.

Références

NIST SP 800-53 Rev5
SC-39 (Process Isolation), SC-7 (Boundary), AC-6, AC-4, SC-5, SI-14 (Non-Persistence), SI-10.
OWASP LLM05 / LLM06:2025
Improper Output Handling et Excessive Agency contenus à l’exécution.

Abréviations

PDP
Policy Decision Point · point de décision d’autorisation
PEP
Policy Enforcement Point · point d’application des politiques
PIP
Policy Information Point · point d’information de politique
PAP
Policy Administration Point · point d’administration des politiques
IdP
Identity Provider · fournisseur d’identité
TSS
Token Service · service de jetons
NHI
Non-Human Identity · identité non-humaine
RBAC
Role-Based Access Control · contrôle d’accès basé sur les rôles
ABAC
Attribute-Based Access Control · contrôle d’accès basé sur les attributs
MFA
Multi-Factor Authentication · authentification multifacteur
HITL
Human-in-the-loop · validation humaine dans la boucle
JIT
Just-In-Time · juste-à-temps
CAE
Continuous Access Evaluation · évaluation continue de l’accès
CAEP
Continuous Access Evaluation Profile
DPoP
Demonstrating Proof-of-Possession · preuve de possession du jeton
mTLS
mutual TLS · TLS mutuel
PII
Personally Identifiable Information · données à caractère personnel
KMS
Key Management Service · service de gestion des clés
CI/CD
Continuous Integration / Continuous Delivery
SIEM
Security Information and Event Management
SOAR
Security Orchestration, Automation and Response
SCIM
System for Cross-domain Identity Management
XACML
eXtensible Access Control Markup Language
OPA
Open Policy Agent
OWASP
Open Worldwide Application Security Project
NIST
National Institute of Standards and Technology
ATLAS
Adversarial Threat Landscape for Artificial-Intelligence Systems
LLM
Large Language Model · grand modèle de langage
WAF
Web Application Firewall · pare-feu applicatif web
CDN
Content Delivery Network · réseau de diffusion de contenu
DDoS
Distributed Denial of Service · déni de service distribué
DLP
Data Loss Prevention · prévention des fuites de données
JWT
JSON Web Token
API
Application Programming Interface · interface de programmation
CRS
Core Rule Set (OWASP) · jeu de règles de base
RAG
Retrieval-Augmented Generation · génération augmentée par récupération
MCP
Model Context Protocol · protocole de contexte pour les modèles
PBAC
Permission-Based Access Control · contrôle d’accès par permissions
HSM
Hardware Security Module · module matériel de sécurité
UEBA
User and Entity Behavior Analytics · analyse comportementale
SBOM
Software Bill of Materials · nomenclature logicielle
SLSA
Supply-chain Levels for Software Artifacts
WORM
Write Once, Read Many · écriture unique
SPIFFE
Secure Production Identity Framework For Everyone