Australische Finanzaufsicht warnt Banken vor übermäßigem KI-Einsatz bei Verdachtsmeldungen

Die australische Finanzaufsicht Austrac warnt Banken vor dem übermäßigen Einsatz von KI bei der Erstellung von Verdachtsmeldungen. Laut Branchenquellen hätten Austrac-Vertreter in den vergangenen Wochen einigen Banken eindringlich nahegelegt, beim Einsatz von KI bewusster vorzugehen. Eine Großbank sei in einem privaten Treffen gerügt worden.

Banken nutzen seit Jahren maschinelles Lernen zur Erkennung verdächtiger Transaktionen. Doch der verstärkte Einsatz moderner großer Sprachmodelle kam erst in den vergangenen zwei Jahren auf, da Banken in der Technologie auch eine Möglichkeit zur Kostensenkung sehen.

Die stellvertretende Austrac-Chefin Katie Miller sagte, die Behörde wolle keine Flut von "minderwertigen" computergenerierten Berichten, die zwar datenreich, aber nachrichtendienstlich wertlos seien. Banken könnten massenhaft Berichte einreichen, nur um Strafen zu vermeiden. Sollten sie KI nur zur Steigerung der Berichtsmenge nutzen, müsse Austrac das bewerten. Je mehr Daten vorhanden seien, desto größer sei das Problem des "Rauschens". Daher sollten Banken eher auf höhere Qualität bei geringeren Mengen setzen.