Seit dem 2. Februar 2025 gelten die ersten Verbote des EU AI Acts. Und ehrlich gesagt: Die meisten Leute haben das gar nicht mitbekommen. Dabei betrifft es jeden, der eine App nutzt, die mit KI arbeitet, egal ob Sprachassistent, Recruiting-Tool oder eben eine Finanz-App auf dem Smartphone.
Wir beschäftigen uns seit Monaten intensiv mit den neuen Regeln und was sie konkret für Menschen bedeuten, die ihre Ausgaben digital tracken. Die kurze Version: Es ändert sich einiges. Die längere Version kommt jetzt.
Was der EU AI Act mit deinen Finanzen zu tun hat
Der EU AI Act teilt KI-Systeme in Risikoklassen ein. Ganz oben stehen sogenannte Hochrisiko-Systeme, etwa in der Kreditwürdigkeitsprüfung oder Personalauswahl. Laut dem Fahrplan von EY werden ab dem 2. August 2026 nahezu alle zentralen Vorschriften verbindlich, darunter spezifische Transparenzanforderungen und Qualifikationspflichten.
Für eine einfache Ausgaben-App klingt das erstmal weit weg. Ist es aber nicht. Sobald eine App KI einsetzt, um deine Transaktionen zu kategorisieren, Muster zu erkennen oder dir Empfehlungen zu geben, greifen Teile der neuen Verordnung. Wie genau, hängt davon ab, welche Daten die App verarbeitet und woher sie kommen.
maximales Bußgeld bei Verstößen gegen den EU AI Act — oder 7 % des weltweiten Jahresumsatzes
35 Mio. €
Das sind keine theoretischen Zahlen. Das KI-Trainingszentrum berichtet, dass Unternehmen sich jetzt schon vorbereiten müssen, weil die Umsetzungsfristen knapp sind. Für Fintech-Startups und große Banken gleichermaßen.
Algorithmische Transparenz: Dein neues Recht
Bisher war es so: Eine App lehnt dir etwas ab oder sortiert dich in eine Kategorie, und du weißt nicht warum. Das ändert sich gerade. Wie schieb.de erklärt, bekommen Verbraucher erstmals ein echtes Recht auf algorithmische Transparenz. Wenn eine KI dir einen Kredit verweigert, musst du erfahren können, welche Faktoren dazu geführt haben.
Noch spannender für den Alltag: Du kannst der Verwendung deiner Daten für KI-Training widersprechen. Und du kannst verlangen, dass bereits trainierte Modelle deine Daten „vergessen". Das klingt technisch abstrakt, hat aber ganz praktische Konsequenzen. Stell dir vor, du nutzt zwei Jahre lang eine Finanz-App, die per Open Banking auf dein Sparkasse-Konto zugreift. Die KI lernt aus deinen Transaktionen. Du wechselst die App. Aber deine Ausgabenmuster stecken noch im Modell.
Genau solche Szenarien adressiert der EU AI Act jetzt regulatorisch.
Wem gehören die Muster in deinen Ausgaben?
Das ist die eigentlich interessante Frage, und sie wird erstaunlich selten gestellt. Wenn eine KI aus deinen monatlichen 2.200 € Miete, 380 € Lebensmitteln und 45 € GEZ-Beiträgen lernt, entstehen daraus statistische Muster. Diese Muster sind wertvoll. Sie lassen Rückschlüsse auf Einkommen, Lebensstil, Gesundheit und Konsumverhalten zu.
