INVARIANCE · Definizione
L'autorizzazione all'esecuzione è la decisione, presa immediatamente prima che l'azione di un agente di IA abbia effetto, sul fatto che l'esecuzione di quella specifica azione sia consentita. L'autorizzazione indipendente all'esecuzione prende tale decisione al di fuori del sistema che compie l'azione. Se il controllo non può essere eseguito, nemmeno l'azione lo è.
Una definizione di riferimento dell'autorizzazione indipendente all'esecuzione, e di come si differenzia dai controlli elencati accanto a essa.
Definizione
Un agente di IA propone un'azione: un pagamento, una modifica delle coordinate bancarie di un fornitore, la concessione di un accesso privilegiato. L'autorizzazione all'esecuzione risponde a una sola domanda su tale azione. Può essere eseguita, qui, ora, con questi parametri?
La risposta è consentire o negare, vincolata a quella singola azione. Non è un permesso permanente e non si estende all'azione successiva.
È l'indipendenza a dare peso alla risposta. Quando il sistema che compie l'azione decide anche se l'azione sia sicura, un errore o una compromissione raggiunge insieme la proposta e il controllo. L'autorizzazione indipendente all'esecuzione tratta l'agente come un proponente non attendibile, non come un operatore attendibile, e colloca la decisione in un dominio di fiducia separato, al confine posto davanti al sistema in cui l'azione avrebbe effetto.
Il sistema che agisce non può essere il sistema che autorizza l'azione.
Controlli adiacenti
Oggi diversi tipi di controllo circondano gli agenti di IA e vengono spesso elencati insieme. Ciascuno risponde a una domanda diversa. La maggior parte delle imprese ne utilizzerà diversi in parallelo.
| Controllo | La domanda a cui risponde | Dove agisce | Esempi |
|---|---|---|---|
| Gestione delle identità e degli accessi | Chi è questo agente e che cosa può raggiungere? | Credenziali, ruoli e permessi, concessi in anticipo | Okta, Microsoft Entra |
| Controllo degli accessi basato su policy | In base alla policy e al contesto attuali, questa identità può usare questi dati o questo strumento? | A livello di API e di dati, su ogni richiesta | PlainID |
| Guardrail e gateway per l'IA | Questo prompt, questa risposta o questa chiamata a uno strumento sono accettabili? | Sul percorso di richiesta e risposta del modello | Fiddler, Lakera |
| Osservabilità | Che cosa è accaduto e che cosa sta accadendo? | Accanto all'agente, registrandone l'attività | Fiddler e piattaforme di monitoraggio |
| Guardrail per agenti pre-azione | Questa chiamata a uno strumento supera la policy prima che l'agente agisca? | Guardrail installati nell'ambiente dell'agente; controlli sul repository prima del merge | APort |
| Autorizzazione indipendente all'esecuzione | Questa specifica azione può essere eseguita, ora? | Presso un confine indipendente davanti al sistema di destinazione, al di fuori del dominio di fiducia del sistema che compie l'azione | INVARIANCE |
Gli esempi riflettono il modo in cui ciascuna azienda descrive i propri prodotti nei materiali pubblici, ottobre 2026. Molti prodotti rientrano in più di una riga. INVARIANCE opera accanto ai controlli di identità, accesso, guardrail e osservabilità e non li sostituisce.
Le ultime due righe si assomigliano, perché entrambe decidono prima che un'azione proceda. La differenza sta nel punto in cui si trova il controllo. Un guardrail installato nell'ambiente dell'agente dipende dal fatto che quell'ambiente lo invochi. Un confine davanti al sistema di destinazione si frappone tra l'agente e la conseguenza.
Come valutare un controllo
Le affermazioni di indipendenza e di controllo in tempo reale sono comuni. Queste cinque domande mostrano che cosa fa un controllo quando un agente propone qualcosa con conseguenze reali. Ogni risposta di INVARIANCE descrive come l'architettura di INVARIANCE è progettata per comportarsi.
Un controllo all'interno del dominio di fiducia del sistema che compie l'azione ne condivide i guasti. L'autorizzazione indipendente all'esecuzione viene eseguita al di fuori di esso.
INVARIANCE: il confine si trova al di fuori dell'agente e al di fuori del sistema che ha proposto l'azione.
L'accesso a uno strumento o a un insieme di dati è un permesso permanente. L'autorizzazione all'esecuzione decide su una singola azione, con il relativo importo, la controparte e il contesto, nel momento dell'esecuzione.
INVARIANCE: ogni azione con conseguenze reali riceve una propria decisione.
Alcuni controlli offrono modalità di solo monitoraggio, oppure lasciano procedere le azioni quando un controllo va in errore o in timeout. La risposta a questa domanda stabilisce se il controllo è un confine o un allarme.
INVARIANCE: a blocco in caso di guasto (fail-closed). Silenzio, timeout ed errore si risolvono tutti in una mancata esecuzione.
Un controllo che l'agente può aggirare chiamando direttamente il sistema di destinazione è consultivo, per quanto rigorosa sia la sua policy.
INVARIANCE: in un'implementazione, il confine di esecuzione è il percorso verso il sistema di destinazione.
I log registrano eventi. Le evidenze consentono a un revisore, a un assicuratore o a un'autorità di regolamentazione di confermare che cosa è stato autorizzato, in base a quale policy, e che la registrazione non è cambiata da allora.
INVARIANCE: ogni decisione, sia permesso sia diniego, lascia una registrazione a manomissione rilevabile verificabile in modo indipendente.
Domande
La governance stabilisce le regole: policy, responsabilità e supervisione. L'autorizzazione all'esecuzione applica tali regole a ogni singola azione nel momento in cui avrebbe effetto. La governance stabilisce le regole. INVARIANCE autorizza in modo indipendente l'esecuzione sulla base di esse.
La gestione delle identità e degli accessi stabilisce che cosa un agente può raggiungere. Non stabilisce se una specifica azione, con i suoi particolari parametri e conseguenze, sia autorizzata nel momento in cui verrebbe eseguita. Un agente con credenziali valide può comunque compiere un'azione che nessuno autorizzerebbe.
I guardrail valutano ciò che un modello riceve e produce. L'autorizzazione all'esecuzione valuta l'azione concreta che ne risulta, al confine in cui avrebbe effetto, al di fuori del modello e al di fuori dell'agente.
Non in modo sicuro. Una prompt injection, un errore o una compromissione che orienta la proposta dell'agente può orientarne anche l'autoverifica. La separazione dei compiti si applica agli agenti come si applica alle persone.
INVARIANCE è il piano di controllo per un'azione sicura dell'IA: un'infrastruttura di autorizzazione indipendente all'esecuzione per l'IA con conseguenze reali. Fornisce un confine di esecuzione indipendente che autorizza o nega ogni azione di un agente di IA con conseguenze reali prima che abbia effetto. Fondatore e CEO: Damian Kissane. INVARIANCE (invarianceip.com) non è affiliata a Invariant Labs, The Invariance Group o altre organizzazioni con nomi simili.
Partner di lancio
INVARIANCE sta selezionando un numero ristretto di partner di lancio tra i fornitori di agenti di IA nei settori finanziario, assicurativo, sanitario e veterinario. Scopri come funziona per gli agenti di IA.
Diventa partner di lancio