INVARIANCE · Autorisation d'exécution indépendante pour les agents d'IA
Les agents d'IA déplacent désormais de l'argent, modifient les coordonnées de fournisseurs, émettent des prescriptions et accordent des accès. Ils détiennent les identifiants nécessaires pour le faire. Ce qu'ils ne détiennent pas, c'est une autorisation indépendante.
Le programme de partenaires de lancement s'étend aux fournisseurs d'agents d'IA de la santé et du secteur vétérinaire.
INVARIANCE ouvre son programme de partenaires de lancement aux fournisseurs d'agents d'IA de la finance et de l'assurance.
Le problème
Un agent disposant d'identifiants d'API et de permissions déléguées peut initier un paiement, modifier un bénéficiaire ou accorder un accès privilégié. Les contrôles d'accès établissent ce à quoi un agent peut accéder. Ils n'établissent pas si une action précise, à un moment précis, est autorisée à s'exécuter.
Lorsque l'agent est aussi le système qui décide si sa propre action est sûre, il n'existe aucune vérification indépendante. L'autorité repose sur l'acteur.
Le système qui agit ne peut pas être celui qui autorise l'action.
Scénario illustratif · opérations financières
Un agent reçoit l'instruction de mettre à jour les coordonnées bancaires d'un fournisseur. Quelques minutes plus tard, le même flux de travail tente un paiement de 48 000 $ vers le nouveau compte. L'agent détient des identifiants valides pour les deux actions.
À la frontière d'exécution, INVARIANCE ne trouve aucune confirmation indépendante du changement de bénéficiaire. Le paiement est refusé avant de prendre effet, et le refus est consigné comme preuve.
L'agent avait les identifiants. Il n'avait pas d'autorisation indépendante. Les 48 000 $ ne sont jamais partis.
Action candidate
confirmation indépendante : absente
refuser · politique FIN-07 · porte fermée · refus consigné
Fonctionnement d'INVARIANCE
INVARIANCE fournit une frontière d'exécution indépendante entre ce qu'un agent décide et ce qu'il exécute. Chaque action aux conséquences réelles est autorisée ou refusée avant de prendre effet.
La frontière se situe hors de l'agent et hors du système qui a proposé l'action. L'agent ne peut pas s'autoriser lui-même.
L'autorisation s'applique à une action, avec son montant, sa contrepartie et son contexte, au moment de l'exécution. Ce n'est pas une permission permanente.
Si la vérification ne peut pas s'exécuter, l'action non plus. Le silence, l'expiration du délai et l'erreur aboutissent tous à une absence d'exécution.
Chaque décision, permis comme refus, laisse une trace qui peut être vérifiée de manière indépendante a posteriori.
Champ d'application
Paiements, changements de bénéficiaire et approbations initiés par des agents dans les flux de travail financiers.
Décisions de souscription prises par des agents dans le cadre de l'autorité déléguée et des limites de police.
Octrois d'accès et modifications privilégiées demandés par des agents dans les systèmes opérationnels.
Actions de traitement, de prescription et d'orientation réalisées par des agents d'IA cliniques. VETPASS, une plateforme d'IA clinique en service, est le terrain d'essai d'origine d'INVARIANCE.
Pour les fournisseurs d'agents d'IA
Les fournisseurs d'agents de la finance, de l'assurance, de la santé et du secteur vétérinaire livrent INVARIANCE avec leurs agents. Leurs clients obtiennent des agents qui ne peuvent pas agir au-delà de leur autorité, avec des preuves à altération détectable de chaque décision aux conséquences réelles.
INVARIANCE est une infrastructure d'autorisation d'exécution indépendante pour l'IA aux conséquences réelles : le plan de contrôle pour une action sûre de l'IA. La gouvernance établit les règles. INVARIANCE autorise chaque action d'agent de manière indépendante au regard de ces règles avant son exécution. La place d'INVARIANCE
Partenaires de lancement
INVARIANCE sélectionne un petit nombre de partenaires de lancement parmi les fournisseurs d'agents d'IA de la finance, de l'assurance, de la santé et du secteur vétérinaire.
Les entreprises qui déploient des agents et les partenaires d'infrastructure sont également les bienvenus, via la page de contact.