INVARIANCE · Unabhängige Ausführungsautorisierung für KI-Agenten
KI-Agenten bewegen heute Geld, ändern Lieferantendaten, stellen Verschreibungen aus und gewähren Zugriff. Sie besitzen die Zugangsdaten dafür. Was sie nicht besitzen, ist eine unabhängige Autorisierung.
Das Launch-Partnerprogramm wird auf Anbieter von KI-Agenten im Gesundheitswesen und in der Veterinärmedizin ausgeweitet.
INVARIANCE öffnet sein Launch-Partnerprogramm für Anbieter von KI-Agenten in den Bereichen Finanzen und Versicherung.
Das Problem
Ein Agent mit API-Zugangsdaten und delegierten Berechtigungen kann eine Zahlung auslösen, einen Zahlungsempfänger ändern oder privilegierten Zugriff gewähren. Zugriffskontrollen legen fest, was ein Agent erreichen kann. Sie legen nicht fest, ob eine bestimmte Aktion zu einem bestimmten Zeitpunkt zur Ausführung autorisiert ist.
Wenn der Agent zugleich das System ist, das entscheidet, ob seine eigene Aktion sicher ist, gibt es überhaupt keine unabhängige Prüfung. Die Autorität liegt beim Handelnden.
Das System, das handelt, kann nicht das System sein, das die Handlung autorisiert.
Illustratives Szenario · Finanzbetrieb
Ein Agent erhält die Anweisung, die Bankverbindung eines Lieferanten zu aktualisieren. Minuten später versucht derselbe Workflow eine Zahlung von 48.000 $ auf das neue Konto. Der Agent verfügt für beide Aktionen über gültige Zugangsdaten.
An der Ausführungsgrenze findet INVARIANCE keine unabhängige Bestätigung der Änderung des Zahlungsempfängers. Die Zahlung wird abgelehnt, bevor sie wirksam wird, und die Ablehnung wird als Nachweis aufgezeichnet.
Der Agent hatte die Zugangsdaten. Er hatte keine unabhängige Autorisierung. Die 48.000 $ sind nie abgeflossen.
Kandidatenaktion
unabhängige Bestätigung: fehlt
ablehnen · Richtlinie FIN-07 · Gate geschlossen · Ablehnung aufgezeichnet
So funktioniert INVARIANCE
INVARIANCE stellt eine unabhängige Ausführungsgrenze zwischen dem bereit, was ein Agent entscheidet, und dem, was er ausführt. Jede folgenreiche Aktion wird autorisiert oder abgelehnt, bevor sie wirksam wird.
Die Grenze liegt außerhalb des Agenten und außerhalb des Systems, das die Aktion vorgeschlagen hat. Der Agent kann sich nicht selbst autorisieren.
Die Autorisierung gilt für eine einzelne Aktion, mit ihrem Betrag, ihrer Gegenpartei und ihrem Kontext, zum Zeitpunkt der Ausführung. Sie ist keine dauerhafte Berechtigung.
Kann die Prüfung nicht laufen, wird die Aktion nicht ausgeführt. Schweigen, Zeitüberschreitung und Fehler führen jeweils zu keiner Ausführung.
Jede Entscheidung, Genehmigung wie Ablehnung, hinterlässt einen Datensatz, der im Nachhinein unabhängig überprüft werden kann.
Anwendungsbereiche
Zahlungen, Änderungen von Zahlungsempfängern und Freigaben, die von Agenten in Finanz-Workflows ausgelöst werden.
Zeichnungsentscheidungen, die von Agenten im Rahmen delegierter Vollmachten und Policenlimits getroffen werden.
Zugriffsgewährungen und privilegierte Änderungen, die von Agenten in operativen Systemen angefordert werden.
Behandlungs-, Verschreibungs- und Überweisungsaktionen klinischer KI-Agenten. VETPASS, eine im Betrieb befindliche klinische KI-Plattform, ist das ursprüngliche Erprobungsumfeld für INVARIANCE.
Für Anbieter von KI-Agenten
Anbieter von Agenten in den Bereichen Finanzen, Versicherung, Gesundheitswesen und Veterinärmedizin liefern INVARIANCE mit ihren Agenten aus. Ihre Kunden erhalten Agenten, die nicht über ihre Befugnisse hinaus handeln können, mit manipulationserkennbaren Nachweisen für jede folgenreiche Entscheidung.
INVARIANCE ist unabhängige Infrastruktur zur Ausführungsautorisierung für folgenreiche KI: die Control Plane für sicheres Handeln von KI. Governance legt die Regeln fest. INVARIANCE autorisiert jede Aktion eines Agenten unabhängig anhand dieser Regeln, bevor sie ausgeführt wird. Wo INVARIANCE einzuordnen ist
Launch-Partner
INVARIANCE wählt eine kleine Zahl von Launch-Partnern unter Anbietern von KI-Agenten in den Bereichen Finanzen, Versicherung, Gesundheitswesen und Veterinärmedizin aus.
Auch Unternehmen, die Agenten einsetzen, und Infrastrukturpartner sind willkommen, über die Kontaktseite.