Die Herausforderung
Finanzinstitute müssen bei Versäumnissen bei der Aufzeichnung und Überwachung der Kommunikation mit erheblichen Strafen rechnen, und die manuelle Überprüfung kann zu hohen Fehlalarmquoten führen.
Umony benötigte ein glaubwürdiges Framework, um die Entwicklung eines KI-Systems zu unterstützen, das Finanzinstituten und regulierten Branchen dabei helfen sollte, von einer punktuellen Überwachung zu einer umfassenden, KI-gestützten Qualitätssicherung überzugehen.
Für das Unternehmen war es von entscheidender Bedeutung, seinen Kunden versichern zu können, dass es alle KI-Risiken (beispielsweise Verzerrungen, Transparenz und Datenqualität) bewältigen kann, und Kunden sowie Aufsichtsbehörden nachweisen zu können, dass die KI mit verantwortungsvoller Governance betrieben wird. Außerdem war es ihnen ein Anliegen, standardisierte Prozesse, Rollen und Kontrollmechanismen zu etablieren, die sich auf alle Produkte und Märkte übertragen lassen und die Zuverlässigkeit auf Unternehmensebene gewährleisten.
Die Lösung
Das BSI hat das Managementsystem für künstliche Intelligenz (AIMS) von Umony geprüft und die Zertifizierung nach ISO/IEC 42001 erteilt.
Das Programm umfasste eine gründliche Vorabprüfung durch funktionsübergreifende Teams zur Festlegung der AIMS-Ziele, des Umfangs und der Schnittstellen, eine fachliche Vorabbeurteilung durch mit KI vertraute Auditoren zur Ermittlung von Verbesserungsmöglichkeiten vor dem formellen Audit, gezielte Schulungen zu operativen Kontrollen und zur Lebenszyklus-Governance sowie ein zweistufiges Audit mit Schwerpunkt auf Risikobewertung, Folgenabschätzung, Kontrollen und Nachweisen. Das AIMS hat klare Richtlinien, Zuständigkeiten, Kontrollmechanismen und Leistungskennzahlen festgelegt, um KI-Risiken über den gesamten Lebenszyklus hinweg zu steuern.