KI gegen Rechnungsbetrug: Zahlungsänderungen sicher prüfen

KI kann Rechnungsbetrug nicht zuverlässig entscheiden, aber sie kann den richtigen Prüfpfad auslösen. Besonders wertvoll ist sie dort, wo täglich viele Rechnungen, Lieferantenmails und Änderungswünsche eintreffen: Sie markiert Abweichungen von bekannten Mustern. Die Zahlung bleibt jedoch gesperrt, bis ein Mensch die Änderung über einen bereits bekannten Kontaktweg bestätigt und die definierte Freigabe erteilt. Für KMU ist diese Kombination aus Erkennung, Rückruf und dokumentierter Entscheidung meist wirksamer als eine reine KI- oder reine Bauchgefühl-Lösung.

Der kritische Fall ist oft unspektakulär: Eine vermeintliche Lieferantenmail bittet darum, die IBAN für künftige Rechnungen zu ändern. Der Absender wirkt plausibel, die Rechnung ist professionell gestaltet und der Zeitpunkt passt zum Auftrag. Europol beschreibt genau dieses Muster als Invoice Fraud: Kriminelle geben sich als Lieferant aus und leiten Zahlungen auf ein von ihnen kontrolliertes Konto um. Deshalb ist eine KI-Empfehlung nie die Freigabe einer Bankverbindung, sondern ein Anlass zur strukturierten Prüfung.

Warum Zahlungsänderungen ein eigener Risikofall sind

Bei einer normalen Rechnung prüfen Teams Betrag, Leistungsbezug, Steuersatz und Fälligkeit. Bei einer Änderung der Zahlungsdaten kommt eine zweite Frage hinzu: Ist der Empfänger tatsächlich derselbe? Eine korrekte Rechnungsnummer oder ein echter Lieferantenname beantwortet sie nicht. Angreifer nutzen öffentlich verfügbare Informationen, kompromittierte Postfächer oder täuschend ähnliche Domains, um eine glaubwürdige Bitte zu formulieren. Zeitdruck, Vertraulichkeit und eine angeblich dringende Zahlung sind dabei Warnzeichen, aber keine Beweise.

Die praktische Konsequenz lautet: Jede neue oder geänderte IBAN braucht einen getrennten Änderungsprozess. Die Buchhaltung darf den Hinweis erfassen, aber nicht allein aus einer E-Mail übernehmen. Der Rückruf erfolgt über eine Nummer aus einem bereits bestätigten Lieferantenstammsatz, Vertrag oder früheren Kontakt – niemals über die Nummer in der Änderungsmail. Diese Trennung schützt auch dann, wenn ein Angreifer Text, Logo oder Signatur überzeugend kopiert hat.

Was KI sinnvoll leisten kann – und was nicht

Eine gut abgegrenzte KI kann Rechnungen, E-Mails und Stammdaten nach Merkmalen vorsortieren. Sie kann zum Beispiel feststellen, dass sich IBAN, Empfängername, Domain, Tonfall oder Zahlungsziel vom bisherigen Lieferantenprofil unterscheiden. Sie kann mehrere schwache Signale zu einem Prüfhinweis bündeln und die Fälle mit dem höchsten Risiko zuerst anzeigen. Das ist besonders nützlich, wenn eine Person viele offene Belege bearbeitet und nicht jede Abweichung manuell suchen kann.

Die KI sollte aber weder Zahlungsdaten selbst ändern noch eine Zahlung auslösen. Sie kennt den realen Gesprächskontext nicht zuverlässig und kann aus einer gut gefälschten Nachricht falsche Schlüsse ziehen. Auch eine hohe Modell-Konfidenz ersetzt keinen Nachweis. In unserem Beitrag zur KI-Anomalieerkennung bei Rechnungen und Zahlungen erläutern wir, warum ein auffälliger Wert immer ein Prüfauftrag und kein Urteil ist.

Ein Kontrollprozess in fünf Schritten

1. Änderungswunsch vom Zahlungsvorgang trennen

Erfassen Sie eine neue IBAN zunächst als offenen Änderungsfall. Verknüpfen Sie ihn mit Lieferant, Rechnung, Nachricht und Zeitpunkt, ohne den bestehenden Stammsatz zu überschreiben. So bleibt die bisher bestätigte Verbindung sichtbar und eine versehentliche Übernahme wird unwahrscheinlicher. Ein Rechnungssystem sollte nachvollziehbar machen, wer welche Information wann eingetragen, geprüft und freigegeben hat. Die Funktionen für Dokumente, Kunden und Rechnungen unter Claribill Funktionen helfen dabei, Geschäftsunterlagen strukturiert zu organisieren; konkrete Freigaberegeln definiert jedes Unternehmen selbst.

2. KI-Signale nachvollziehbar anzeigen

Definieren Sie einfache, erklärbare Regeln neben der KI: neue Bankverbindung, Domain-Abweichung, anderer Zahlungsempfänger, ungewöhnliche Dringlichkeit, Änderung unmittelbar vor Fälligkeit oder fehlender Bezug zu Bestellung und Lieferschein. Die KI darf diese Signale gewichten und Fälle sortieren. Im Prüfprotokoll sollten jedoch die einzelnen Gründe stehen, nicht nur ein undurchsichtiger Risikowert. Das erleichtert Vertretungen, Audits und spätere Verbesserungen.

3. Über einen bekannten Weg rückbestätigen

Der Rückruf ist der zentrale Gegencheck. Nutzen Sie dazu die im Stammsatz hinterlegte Nummer, eine bereits verifizierte Website oder eine bekannte Ansprechpartnerin. Fragen Sie nicht nur „Ist die Mail echt?“, sondern lassen Sie die vollständige neue IBAN und den Änderungsgrund bestätigen. Europol empfiehlt ausdrücklich, für eine Verifikation nicht die Kontaktdaten aus der verdächtigen Nachricht zu verwenden. Bei hohen Beträgen kann zusätzlich ein zweiter, unabhängiger Kontakt sinnvoll sein.

4. Freigabe nach Betrag und Risiko staffeln

Eine kleine Änderung bei einem langjährigen Lieferanten ist nicht automatisch harmlos, kann aber anders behandelt werden als eine neue Bankverbindung vor einer hohen Erstzahlung. Legen Sie Schwellen, Rollen und Vertretungen vorher fest. Ein mögliches Muster: Die Buchhaltung dokumentiert den Fall, eine zweite berechtigte Person prüft Rückruf und Belege, und ab einer festgelegten Grenze gibt die Geschäftsführung frei. Wichtig ist nicht die eine universelle Grenze, sondern dass sie zum Zahlungsvolumen, zu den Lieferanten und zum Schadenpotenzial passt.

5. Entscheidung und Nachweis dauerhaft verbinden

Zum Fall gehören die ursprüngliche Nachricht, das Rückrufergebnis, die prüfende Person, die Freigabe und die endgültige Zahlungsreferenz. Wird eine Änderung abgelehnt, bleibt auch das dokumentiert. Damit erkennt ein Team später Wiederholungsmuster und kann zeigen, warum eine Zahlung erlaubt oder blockiert wurde. Eine klare Historie schützt nicht nur gegen Betrug, sondern reduziert auch Rückfragen im Monatsabschluss.

Zwei Praxisbeispiele aus dem KMU-Alltag

Beispiel 1: Der Metallbaubetrieb. Eine Lieferantin kündigt per E-Mail eine neue IBAN an, zwei Tage vor einer Rechnung über 18.400 Euro. Die KI markiert drei Abweichungen: neue Bankverbindung, eine Domain mit vertauschtem Buchstaben und ungewöhnlichen Zeitdruck. Die Buchhalterin übernimmt nichts. Sie ruft die gespeicherte Nummer des Einkaufs an; der Lieferant bestätigt, keine Änderung geschickt zu haben. Die Rechnung wird gesperrt, der Lieferantenstammsatz bleibt unverändert und der Vorfall geht an IT und Geschäftsführung. Ohne die Kombination von Signalen und Rückruf wäre die E-Mail möglicherweise nur als dringliche Routineanfrage behandelt worden.

Beispiel 2: Die Agentur mit vielen kleinen Dienstleistern. Ein echtes Partnerunternehmen wechselt tatsächlich die Bank. Der KI-Abgleich erkennt die Änderung und findet keinen Domainfehler; trotzdem öffnet er einen Änderungsfall. Die Projektleitung bestätigt den Wechsel über die bekannte Kontaktperson, eine zweite Person prüft die IBAN gegen die schriftliche Bestätigung, und erst danach wird der Stammsatz angepasst. Die erste Rechnung nach der Änderung erhält eine zusätzliche Sichtprüfung. Das Ergebnis ist kein Misstrauen gegenüber dem Partner, sondern ein wiederholbarer Prozess für echte und falsche Anfragen.

Datenschutz und AI Act sachlich einordnen

Rechnungen enthalten häufig Namen, Kontakt- und Zahlungsdaten. Wer KI zur Analyse einsetzt, sollte daher vorab Zweck, Datenflüsse, Zugriffe, Aufbewahrung und Anbieterrollen festlegen. Der KMU-Leitfaden des Europäischen Datenschutzausschusses betont Datenschutz durch Technikgestaltung und datensparsame Voreinstellungen. Praktisch bedeutet das: nur die für die Risikoerkennung nötigen Felder bereitstellen, Zugriffe rollenbasiert vergeben und Testdaten von Produktionsdaten trennen, soweit möglich.

Der EU AI Act ordnet nicht jede KI im Rechnungsprozess automatisch als Hochrisikosystem ein. Dennoch ist eine dokumentierte, menschlich überwachte Nutzung gute Praxis. Die Europäische Kommission weist für Hochrisikosysteme auf Überwachung, Risikomanagement, Datenqualität, Dokumentation und menschliche Aufsicht hin; für ein KMU-Tool zur Rechnungspriorisierung sind diese Punkte eine hilfreiche Orientierung, keine pauschale rechtliche Einstufung. Außerdem gilt KI-Kompetenz als organisatorische Aufgabe: Mitarbeitende müssen erkennen können, was ein Hinweis bedeutet, wo seine Grenzen liegen und wann der Prozess eskaliert. Details zur aktuellen Einordnung finden sich in den FAQ der Europäischen Kommission zum AI Act.

Typische Fehler, die den Schutz aushebeln

• Den Risikowert mit einer Entscheidung verwechseln: Ein grüner Wert ist keine Zahlungsfreigabe, ein roter Wert kein Betrugsbeweis.
• Den Rückruf über die Mail organisieren: Eine mitgelieferte Telefonnummer kann zum Angreifer führen. Verwenden Sie einen unabhängigen, bereits bekannten Kontakt.
• Stammdaten sofort überschreiben: Ohne alten Wert und Änderungsnachweis fehlt später die Vergleichsbasis.
• Nur große Beträge prüfen: Kleine Testzahlungen oder mehrere Einzelrechnungen können ebenfalls relevant sein.
• Hinweise nicht trainieren: Wer Zeitdruck, Geheimhaltung oder ungewohnte Anweisungen nicht kennt, übergeht auch gute KI-Warnungen. Mehr dazu lesen Sie in unserem Beitrag über Deepfake-Betrug bei Zahlungsfreigaben.

Checkliste für die Einführung

1. Beschreiben Sie, welche Änderungen immer einen Prüfprozess starten.
2. Halten Sie bestätigte Lieferantenkontakte getrennt von eingehenden Änderungswünschen vor.
3. Definieren Sie KI-Signale, ohne der KI Schreib- oder Zahlungsrechte zu geben.
4. Legen Sie Rückruf, Vier-Augen-Prinzip und Betragsstufen verbindlich fest.
5. Protokollieren Sie Signale, Rückbestätigung, Freigabe und Zahlung.
6. Schulen Sie Vertretungen mit echten, anonymisierten Beispielen.
7. Prüfen Sie regelmäßig Fehlalarme, übersehene Fälle und Zugriffsrechte.

Takeaways

KI ist im Rechnungsprozess besonders nützlich als aufmerksame Vorsortierung: Sie findet Muster, die unter Zeitdruck übersehen werden. Die robuste Schutzmaßnahme bleibt aber organisatorisch: Eine Bankdatenänderung wird erst nach unabhängiger Rückbestätigung und nachvollziehbarer Freigabe wirksam. So verbinden KMU Geschwindigkeit mit Kontrolle, ohne eine nicht erklärbare Automatisierung zum Risiko werden zu lassen.

KI-Signale regelmäßig kalibrieren

Ein Prüfmodell wird besser, wenn das Team bestätigte und widerlegte Hinweise auswertet. Notieren Sie deshalb, ob eine Markierung zu einer echten Auffälligkeit, einer legitimen Änderung oder einem Bedienfehler führte. Häufen sich Fehlalarme bei einem bestimmten Lieferanten oder einer wiederkehrenden Rechnung, prüfen Sie zuerst die Stammdaten und die Regel. Sinkt die Trefferquote, darf die Schwelle nicht stillschweigend gelockert werden: Testen Sie sie mit dokumentierten Fällen und halten Sie die Anpassung fest. Diese Rückkopplung verhindert, dass Beschäftigte Warnungen ignorieren, und bewahrt zugleich die Verantwortung bei den Personen, die Zahlung, Geschäftspartner und aktuelle Lage kennen.

Häufige Fragen

Darf KI eine IBAN automatisch ändern?

Für einen sicheren KMU-Prozess sollte sie das nicht. KI kann einen Änderungsfall priorisieren; die Übernahme verlangt eine unabhängige Bestätigung und eine berechtigte Freigabe.

Ist jeder KI-Einsatz für Rechnungen ein Hochrisikofall nach dem AI Act?

Nein. Die Einstufung hängt vom konkreten Zweck und Einsatz ab. Die Anforderungen an dokumentierte Risiken, Datenqualität und menschliche Aufsicht bleiben jedoch sinnvolle Leitplanken.

Reicht ein Rückruf durch dieselbe Person aus?

Bei risikoreichen oder hohen Zahlungen ist ein Vier-Augen-Prinzip sinnvoll. Entscheidend ist außerdem, dass der Rückruf über eine unabhängig bekannte Nummer erfolgt und nachvollziehbar dokumentiert wird.

Quellen

• Europol: Invoice Fraud
• BSI: Die Lage der IT-Sicherheit in Deutschland
• EDPB: Datenschutz-Compliance für kleine Unternehmen
• Europäische Kommission: Navigating the AI Act