Jon Hall (BoE) zum Abschied: KI-Agenten brauchen Zugriffsgrenzen, Kontrolle und Identität
Jonathan Hall hat seine letzte Rede als externes Mitglied des Financial Policy Committee der Bank of England einem Risiko gewidmet, mit dem er den Ausschuss künftig rechnen sieht: KI-Agenten im Finanzwesen. Er beschrieb das Thema als Prinzipal-Agent-Problem, dasselbe, das die Bank selbst verkörpert, die vom Parlament übertragene Befugnisse ausübt.
Ausgangspunkt ist, dass Fehlanreize zwischen Auftraggeber und Beauftragtem nicht neu sind. Mit Verweis auf Jensen und Meckling von 1976 nannte er drei Formen von Agenturkosten: die Überwachung durch den Auftraggeber, die Selbstbindung des Agenten und den Restverlust, wenn der Agent dennoch abweicht. Die Bank zeige, wie Beschränkungen, ein enges Mandat und Rechenschaft gegenüber dem Parlament einen mächtigen Beauftragten auf Kurs halten.
Für KI-Agenten zählte er Schutzmaßnahmen auf, die nach seinen Worten heute nicht alle bei Finanzfirmen im Einsatz sind. Ein Agent sei ein Modell in einem Rahmenwerk, das Werkzeuge, Berechtigungen, Regeln und Freigaben festlegt. Für Einsätze mit hohem Risiko gehöre er zusätzlich in eine Sandbox nach dem Prinzip der geringsten Rechte, auch wenn Sandboxen nicht völlig dicht seien. Um an Märkten zu handeln, brauche ein Agent eine eindeutige Identität; britische Regeln verlangen schon heute eine eigene Kennung für jeden Handelsalgorithmus in Transaktionsmeldungen, was eine Prüfspur und den Entzug des Zugangs erlaubt. Überwacht werden sollten sowohl die sichtbaren Denkschritte des Modells als auch seine Handlungen, und Firmen bräuchten skalierbare, risikobasierte Aufsicht, um Alarmmüdigkeit zu vermeiden.
Die Frage der Finanzstabilität betrifft für ihn das System, nicht einzelne Firmen. Märkte versagen bei der Liquidität, wenn genug Anbieter sich zurückziehen oder zugleich selbst Liquidität verlangen. Das Risiko hängt deshalb neben der Risikolage einzelner Häuser von Konzentration und Gleichlauf ab. Ob Handel durch KI-Agenten diese erhöht, sei noch unbekannt, was für Experimente, Theorie und Beobachtung spreche. Er beschrieb eine geplante Simulation, die regelbasierte Portfoliomanager mit LLM-Agenten vergleicht, die deren Stil nachahmen sollen.
Hall verwies auf eine Umfrage von Bank und FCA: 80 % der Befragten nutzen irgendeine Form agentischer KI, aber nur 2 % dieser Agenten haben weitreichende Autonomie.

Warum das wichtig ist
Die Rede zeigt, worauf das FPC achten dürfte: Identität und entziehbaren Zugang für jeden Agenten und Belege dafür, ob KI-Strategien unter Stress gleichlaufen.