INVARIANCE · Définition
L'autorisation d'exécution est la décision, prise immédiatement avant que l'action d'un agent d'IA ne prenne effet, sur la question de savoir si cette action précise est autorisée à s'exécuter. L'autorisation d'exécution indépendante prend cette décision hors du système qui réalise l'action. Si la vérification ne peut pas s'exécuter, l'action non plus.
Une définition de référence de l'autorisation d'exécution indépendante, et ce qui la distingue des contrôles cités à ses côtés.
Définition
Un agent d'IA propose une action : un paiement, une modification des coordonnées bancaires d'un fournisseur, un octroi d'accès privilégié. L'autorisation d'exécution répond à une seule question sur cette action. Peut-elle s'exécuter, ici, maintenant, avec ces paramètres ?
La réponse est autoriser ou refuser, liée à cette seule action. Ce n'est pas une permission permanente, et elle ne se reporte pas sur l'action suivante.
C'est l'indépendance qui donne du poids à la réponse. Lorsque le système qui réalise l'action décide aussi si l'action est sûre, une erreur ou une compromission atteint à la fois la proposition et la vérification. L'autorisation d'exécution indépendante traite l'agent comme un proposant non fiable, et non comme un opérateur de confiance, et place la décision dans un domaine de confiance distinct, à la frontière située devant le système où l'action prendrait effet.
Le système qui agit ne peut pas être celui qui autorise l'action.
Contrôles adjacents
Plusieurs types de contrôle entourent désormais les agents d'IA, et ils sont souvent cités ensemble. Chacun répond à une question différente. La plupart des entreprises en exploiteront plusieurs côte à côte.
| Contrôle | La question à laquelle il répond | Où il agit | Exemples |
|---|---|---|---|
| Gestion des identités et des accès | Qui est cet agent, et à quoi peut-il accéder ? | Identifiants, rôles et permissions, accordés à l'avance | Okta, Microsoft Entra |
| Contrôle d'accès fondé sur des politiques | Selon la politique et le contexte actuels, cette identité peut-elle utiliser ces données ou cet outil ? | Au niveau de l'API et des données, à chaque requête | PlainID |
| Garde-fous et passerelles d'IA | Ce prompt, cette réponse ou cet appel d'outil est-il acceptable ? | Sur le chemin des requêtes et des réponses du modèle | Fiddler, Lakera |
| Observabilité | Que s'est-il passé, et que se passe-t-il ? | Aux côtés de l'agent, en enregistrant l'activité | Fiddler et plateformes de supervision |
| Garde-fous d'agent avant action | Cet appel d'outil respecte-t-il la politique avant que l'agent n'agisse ? | Garde-fous installés dans l'environnement de l'agent ; vérifications du dépôt avant fusion | APort |
| Autorisation d'exécution indépendante | Cette action précise peut-elle s'exécuter, maintenant ? | À une frontière indépendante devant le système cible, hors du domaine de confiance du système qui réalise l'action | INVARIANCE |
Les exemples reflètent la manière dont chaque entreprise décrit ses propres produits dans ses documents publics, octobre 2026. De nombreux produits couvrent plus d'une ligne. INVARIANCE fonctionne aux côtés des contrôles d'identité, d'accès, de garde-fous et d'observabilité, et ne les remplace pas.
Les deux dernières lignes se ressemblent, car toutes deux décident avant qu'une action ne se poursuive. La différence tient à l'emplacement de la vérification. Un garde-fou installé dans l'environnement de l'agent dépend du fait que cet environnement l'invoque. Une frontière située devant le système cible se tient entre l'agent et la conséquence.
Comment évaluer un contrôle
Les revendications d'indépendance et de contrôle en temps réel sont courantes. Ces cinq questions montrent ce que fait un contrôle lorsqu'un agent propose quelque chose aux conséquences réelles. Chaque réponse d'INVARIANCE décrit la manière dont l'architecture INVARIANCE est conçue pour se comporter.
Une vérification située dans le domaine de confiance du système qui réalise l'action partage les défaillances de ce système. L'autorisation d'exécution indépendante s'exécute hors de celui-ci.
INVARIANCE : la frontière se situe hors de l'agent et hors du système qui a proposé l'action.
L'accès à un outil ou à un jeu de données est une permission permanente. L'autorisation d'exécution décide d'une action, avec son montant, sa contrepartie et son contexte, au moment de l'exécution.
INVARIANCE : chaque action aux conséquences réelles reçoit sa propre décision.
Certains contrôles proposent des modes de simple surveillance, ou laissent les actions se poursuivre lorsqu'une vérification produit une erreur ou expire. La réponse à cette question détermine si le contrôle est une frontière ou une alarme.
INVARIANCE : en échec fermé (fail-closed). Le silence, l'expiration du délai et l'erreur aboutissent tous à une absence d'exécution.
Une vérification que l'agent peut contourner en appelant directement le système cible est consultative, quelle que soit la rigueur de sa politique.
INVARIANCE : dans un déploiement, la frontière d'exécution est la voie d'accès au système cible.
Les journaux enregistrent des événements. Les preuves permettent à un auditeur, un assureur ou un régulateur de confirmer ce qui a été autorisé, selon quelle politique, et que l'enregistrement n'a pas changé depuis.
INVARIANCE : chaque décision, permis comme refus, laisse une trace à altération détectable qui peut être vérifiée de manière indépendante.
Questions
La gouvernance établit les règles : politiques, responsabilité et supervision. L'autorisation d'exécution applique ces règles à chaque action individuelle au moment où elle prendrait effet. La gouvernance établit les règles. INVARIANCE autorise l'exécution de manière indépendante au regard de ces règles.
La gestion des identités et des accès établit ce à quoi un agent peut accéder. Elle n'établit pas si une action précise, avec ses paramètres et ses conséquences particuliers, est autorisée au moment où elle s'exécuterait. Un agent disposant d'identifiants valides peut tout de même réaliser une action que personne n'autoriserait.
Les garde-fous évaluent ce qu'un modèle reçoit et produit. L'autorisation d'exécution évalue l'action concrète qui en résulte, à la frontière où elle prendrait effet, hors du modèle et hors de l'agent.
Pas de manière sûre. Une injection de prompt, une erreur ou une compromission qui oriente la proposition de l'agent peut aussi orienter son autocontrôle. La séparation des tâches s'applique aux agents comme elle s'applique aux personnes.
INVARIANCE est le plan de contrôle pour une action sûre de l'IA : une infrastructure d'autorisation d'exécution indépendante pour l'IA aux conséquences réelles. Elle fournit une frontière d'exécution indépendante qui autorise ou refuse chaque action d'agent d'IA aux conséquences réelles avant qu'elle prenne effet. Fondateur et PDG : Damian Kissane. INVARIANCE (invarianceip.com) n'est pas affiliée à Invariant Labs, The Invariance Group ni à d'autres organisations au nom similaire.
Partenaires de lancement
INVARIANCE sélectionne un petit nombre de partenaires de lancement parmi les fournisseurs d'agents d'IA de la finance, de l'assurance, de la santé et du secteur vétérinaire. Voir comment cela fonctionne pour les agents d'IA.
Devenir partenaire de lancement