Risikochefin der New York Fed: Automatisierung kann Urteilskraft ausdünnen
Serguey Asael Shinder2 Min. LesezeitMihaela Nistor, Chief Risk Officer der Federal Reserve Bank of New York, hat am 24. September auf der Konferenz Risk Live North America in New York ein Risiko der künstlichen Intelligenz beschrieben, für das keine Kontrolle gebaut ist. Sie betonte, die Ausführungen gäben ihre persönliche Sicht wieder.
Ihr Rahmen hat drei Teile: die Aufgabenexposition, die sagt, was sich ändern kann; die Einführungsreibung, die sagt, wie schnell; und die Umgestaltung der Organisation, die bestimmt, was danach geschieht. Exposition sei nicht Verdrängung, sagte sie, und Fähigkeit nicht Einsatz. Große Institute nehmen Technik aus guten Gründen langsam auf, darunter Regulierung, Haftung, Altsysteme und Datenqualität, und viel von dieser Reibung schützt. Das Problem sei, dass sich Teile einer Institution unterschiedlich schnell bewegen: Eine Einheit kann Einstiegsanalysen automatisieren, bevor die davon abhängigen Stellen neu gestaltet sind, oder autonome Agenten einsetzen, bevor die Governance die daraus folgende Konzentration von Entscheidungen versteht.
Ihr Hauptbeispiel war die Ausbildung. Institute bildeten Fachleute lange durch wiederholte, einfachere Arbeit aus: Nachwuchsanalysten erstellten Berichte, Nachwuchs-Underwriter prüften Akten, Kontrollprüfer gingen Prozesslandkarten Zeile für Zeile durch. Diese Arbeit lehrte, welche Zahlen falsch aussehen und wann man eskaliert. KI kann viel davon übernehmen und kurzfristig Effizienz bringen, während sie die Pipeline schwächt, die erfahrene Urteilskraft hervorbringt. Dieser Schwund, sagte sie, zeige sich nicht in einem Schadensfall und löse keine Kontrolle aus; er zeige sich in fünf bis sieben Jahren als dünnere Führungsreserve und schwächeres institutionelles Gedächtnis.
Was das bedeutet
Aufseher sprechen über KI-Risiken meist in Modellbegriffen: Genauigkeit, Verzerrung, Erklärbarkeit. Dies ist eine andere Kategorie, ein Risiko für die Institution statt für ein einzelnes Ergebnis, und eines, das bestehende Rahmenwerke nicht messen. Von der Risikochefin der Notenbank, die die Marktoperationen der Fed ausführt, ist das ein Hinweis darauf, wonach Aufseher fragen könnten: nicht nur, ob automatisierte Arbeit richtig erledigt wird, sondern wer sie künftig noch prüfen kann.