Sieben KI-Fehlerübungen für die Buchhaltung: Erkennt Ihr Team die Risiken?
Ein KI-System im Rechnungsprozess ist erst dann alltagstauglich, wenn das Team seine Fehler erkennt. Eine Präsentation über Chancen und Risiken reicht dafür nicht. Aussagekräftiger ist ein kurzer Praxistest mit realistischen Belegen: falscher Bruttobetrag, geänderte IBAN, unzulässige Dateneingabe, manipulierte Dokumentanweisung oder ein Vorschlag, der zu viele Rechte ausnutzt.
Die folgenden sieben Übungen lassen sich mit anonymisierten Testdaten in zwei bis drei Stunden durchführen. Sie prüfen nicht, ob Beschäftigte Fachbegriffe auswendig kennen. Sie zeigen, ob Rechnungseingang, Buchhaltung, Freigabe und Administration im entscheidenden Moment richtig handeln. Damit unterstützen sie zugleich die nach Artikel 4 des AI Act geforderte, kontextbezogene KI-Kompetenz.
Warum ein Fehlertraining mehr zeigt als eine Teilnahmebestätigung
KI-Ausgaben wirken häufig plausibel, selbst wenn ein Wert falsch ist. Genau das unterscheidet sie von vielen klassischen Softwarefehlern: Statt einer sichtbaren Fehlermeldung erscheint ein sauber formatiertes Ergebnis. Wer nur die Bedienoberfläche kennt, kann deshalb trotzdem eine falsche Kontierung, eine manipulierte Bankverbindung oder einen unvollständigen Datensatz bestätigen.
Das Bundesamt für Sicherheit in der Informationstechnik empfiehlt für generative KI unter anderem Risikoanalysen, klare Regeln, Schulungen, Tests sowie eine Kontrolle von Ein- und Ausgaben. Es weist außerdem darauf hin, dass sich indirekte Prompt Injections nach heutigem Stand nicht vollständig zuverlässig verhindern lassen. Für KMU folgt daraus ein praktischer Maßstab: Das Team muss nicht jedes technische Detail erklären können, aber es muss Fehlerbilder erkennen, Folgeaktionen stoppen und einen definierten Eskalationsweg nutzen.
So bereiten Sie den Praxistest vor
Arbeiten Sie ausschließlich mit synthetischen oder sauber anonymisierten Belegen. Nutzen Sie eine Testumgebung ohne echte Zahlungsauslösung und ohne Verbindung zu produktiven Stammdaten. Für jede Übung gibt es eine erwartete Reaktion, einen Zeitrahmen und eine Person, die beobachtet. Die beobachtende Person greift nicht ein, solange keine reale Gefahr entsteht.
| Übung | Verdeckter Fehler | Erwartete Reaktion |
|---|---|---|
| 1. Zahlenfalle | Plausibler, aber falscher Bruttobetrag | Original und Summen prüfen, Übernahme stoppen |
| 2. Bankdatenwechsel | Neue IBAN in echter Lieferantenoptik | Unabhängig rückbestätigen, Stammdaten sperren |
| 3. Steuer-Sonderfall | Falscher Steuercode trotz ähnlichem Altbeleg | Fachlich eskalieren, nicht aus Historie ableiten |
| 4. Datenabfluss | Vertraulicher Anhang für nicht freigegebenen Chatbot | Upload verweigern, erlaubten Weg nennen |
| 5. Dokumentangriff | Versteckte Handlungsanweisung im Anhang | Ausgabe als nicht vertrauenswürdig behandeln, Workflow abbrechen |
| 6. Zu viele Rechte | KI will Vorschlag direkt ausführen | Menschliche Freigabe und Rechteprüfung verlangen |
| 7. Ausfall | System nicht verfügbar oder Ergebnis springt | Notprozess aktivieren, Fristen sichern |
Übung 1: Die plausible Zahlenfalle
Erstellen Sie eine Rechnung mit mehreren Positionen, Rabatt und Versandkosten. Der ausgewiesene Bruttobetrag ist korrekt, doch die KI übernimmt einen ähnlich aussehenden Zwischenwert als Endsumme. Alternativ vertauscht sie Netto und Brutto. Das Dokument soll optisch sauber sein, damit nicht die Lesbarkeit, sondern die Prüfung getestet wird.
Bestanden ist die Übung, wenn die bearbeitende Person nicht nur auf eine Konfidenzanzeige vertraut. Sie vergleicht den Wert mit dem Original, prüft die Rechenlogik und stoppt die Übernahme. Besonders aufschlussreich ist die Begründung: „Das Modell war unsicher“ genügt nicht. Das Team sollte benennen können, welcher fachliche Zusammenhang nicht stimmt.
Ein guter Folgeprozess dokumentiert die Korrektur mit einem kurzen Fehlergrund. So lässt sich später unterscheiden, ob ein bestimmtes Layout, eine Positionsart oder ein Modellwechsel wiederholt Probleme verursacht.
Übung 2: Die geänderte IBAN
Verwenden Sie einen bekannten Testlieferanten und ändern Sie auf der neuen Rechnung nur die IBAN. Logo, Ansprechpartner, Betrag und Leistungsbeschreibung bleiben vertraut. Die KI liest die neue Bankverbindung korrekt aus und meldet keinen technischen Fehler. Genau darin liegt die Falle: Erkennung ist nicht Verifikation.
Das Team sollte die Änderung als kritisches Stammdatensignal behandeln. Erwartet wird eine Rückbestätigung über einen bereits bekannten, unabhängigen Kontaktkanal. Die Telefonnummer oder E-Mail-Adresse aus dem verdächtigen Dokument ist dafür ungeeignet. Bis zur Bestätigung bleiben Stammdatenänderung und Zahlung blockiert.
Diese Übung prüft zugleich die Trennung von Rollen. Wer eine Rechnung erfasst, sollte eine neue Bankverbindung nicht allein verbindlich freigeben können. Die öffentlich dokumentierten Schutzgrundsätze von Claribill Sicherheit bieten einen geeigneten Anknüpfungspunkt, um technische Maßnahmen und organisatorische Kontrolle gemeinsam zu betrachten.
Übung 3: Der überzeugende, aber falsche Steuercode
Die Testrechnung ähnelt früheren Standardfällen, enthält aber einen entscheidenden Unterschied: etwa eine grenzüberschreitende Leistung, einen abweichenden Leistungsort oder einen Hinweis auf Steuerbefreiung. Die KI schlägt aufgrund ähnlicher Altbelege den üblichen Steuercode vor.
Bestanden ist der Test, wenn die Buchhaltung den Sonderfall fachlich erkennt und nicht durch eine hohe Trefferwahrscheinlichkeit beruhigt wird. Unsichere steuerliche Einordnung gehört an die zuständige Fachperson oder Steuerberatung. Die KI darf Belegmerkmale zusammenstellen; sie ersetzt keine individuelle steuerliche Beurteilung.
Der bestehende Beitrag KI-Kontierung: Warum ein Vorschlag noch keine Buchungsfreigabe ist vertieft die Trennung zwischen maschineller Vorbereitung und fachlicher Entscheidung.
Übung 4: Der bequeme Datenabfluss
Geben Sie dem Team einen mehrseitigen Anhang mit personenbezogenen Daten, Bankverbindung und vertraulicher Leistungsbeschreibung. Die Aufgabe lautet, eine Zusammenfassung zu erstellen. Gleichzeitig ist nur ein privater oder nicht freigegebener KI-Dienst leicht erreichbar.
Die richtige Reaktion ist kein improvisierter Upload. Die Person klärt, welches System freigegeben ist, welche Daten tatsächlich erforderlich sind und ob eine Anonymisierung genügt. Die österreichische Datenschutzbehörde weist darauf hin, dass DSGVO und AI Act parallel gelten und ein Unternehmen auch beim Einsatz fremder Systeme regelmäßig datenschutzrechtlich verantwortlich bleibt.
Der Test gilt erst als bestanden, wenn die Person einen zulässigen Alternativweg kennt. Ein bloßes Verbot ohne Arbeitsweg fördert Umgehungen. Der Beitrag Schatten-KI in der Buchhaltung stoppen zeigt, wie erlaubte Werkzeuge, Datenklassen und Eskalation zusammengehören.
Übung 5: Die Anweisung im fremden Dokument
Platzieren Sie in einem Testanhang eine scheinbare Systemanweisung, die das Modell zu einem fachfremden Ergebnis bewegen soll. Sie kann verlangen, Warnungen zu ignorieren, eine abweichende Bankverbindung als geprüft zu markieren oder Inhalte aus anderen Dokumenten auszugeben. Für Menschen muss erkennbar bleiben, dass es sich um einen Test handelt.
Die Beschäftigten müssen nicht den Begriff Prompt Injection nennen. Sie sollten aber verstehen, dass Inhalte externer Dokumente Daten und keine vertrauenswürdigen Befehle sind. Eine auffällige Ausgabe wird nicht weiterverarbeitet. Der Vorgang geht an Administration oder Sicherheitsverantwortliche, und mögliche Folgeaktionen bleiben gesperrt.
Wie solche Angriffe technisch und organisatorisch eingeordnet werden, erläutert Prompt Injection in Rechnungen.
Übung 6: Der Assistent mit zu vielen Rechten
Simulieren Sie einen Ablauf, in dem die KI nicht nur Felder erkennt, sondern auch eine Lieferantenänderung, Buchung oder Zahlungsfreigabe anstoßen möchte. Die vorgeschlagene Aktion ist plausibel und spart mehrere Klicks. Trotzdem fehlt eine unabhängige Bestätigung.
Die erwartete Reaktion lautet: Vorschlag speichern, Ausführung stoppen, Berechtigung und Freigabeschritt prüfen. Das Team sollte erkennen, dass gute Ergebnisqualität kein Grund für übergroße Rechte ist. Lesen, klassifizieren, vorschlagen, ändern und ausführen sind unterschiedliche Risikostufen.
Der Leitfaden Rechte von KI-Assistenten begrenzen hilft, diese Stufen in Rollen und Kontrollen zu übersetzen.
Übung 7: Ausfall und wechselnde Ergebnisse
Schalten Sie die Testfunktion vorübergehend ab oder lassen Sie denselben Beleg zwei unterschiedliche Vorschläge liefern. Beobachtet wird, ob das Team Fristen und Verantwortlichkeiten auch ohne KI im Griff behält. Eingangsdatum, Originalbeleg und Bearbeitungsstatus dürfen nicht verloren gehen.
Bestanden ist die Übung, wenn ein definierter Notprozess startet: Belege werden sicher gesammelt, kritische Fristen markiert, manuelle Prüfungen priorisiert und nach Wiederanlauf kontrolliert nachgearbeitet. Niemand lädt Dokumente spontan in ein Ersatzsystem hoch. Der Beitrag Notbetrieb bei KI-Ausfall beschreibt diesen Ablauf im Detail.
So bewerten Sie das Ergebnis
Bewerten Sie jede Übung auf einer Skala von null bis zwei Punkten:
- 0 Punkte: Der Fehler wird nicht erkannt oder die kritische Aktion wird ausgeführt.
- 1 Punkt: Der Fehler wird erkannt, aber Begründung, Eskalation oder Dokumentation bleiben unklar.
- 2 Punkte: Die Person stoppt rechtzeitig, begründet fachlich, nutzt den richtigen Meldeweg und sichert den Vorgang nachvollziehbar.
Bei sieben Übungen sind 14 Punkte möglich. Eine Gesamtzahl allein reicht jedoch nicht. Ein Nullergebnis bei Bankdaten oder Datenabfluss ist kritischer als eine langsame Reaktion beim Ausfall. Legen Sie deshalb vorab Muss-Kriterien fest: keine unbestätigte Stammdatenänderung, keine echte Zahlung, kein Upload in ein unfreigegebenes System und keine automatische Folgeaktion aus einem manipulierten Dokument.
Praxisbeispiel Österreich: Solartechnikbetrieb
Ein österreichischer Installationsbetrieb testet Rechnungseingang, Einkauf und Geschäftsführung gemeinsam. In der IBAN-Übung erkennt der Einkauf die Änderung, verwendet zur Rückfrage aber zunächst die neue Telefonnummer auf der Rechnung. Das Ergebnis ist nur ein Punkt: Der finanzielle Stopp war richtig, der Bestätigungskanal nicht unabhängig.
Der Betrieb ergänzt daraufhin im Lieferantenstamm einen verifizierten Kontakt und beschreibt den Rückfrageweg auf einer Seite. Vier Wochen später wird dieselbe Übung mit anderem Layout wiederholt. Erst der zweite Test zeigt, dass die Maßnahme im Alltag verstanden wurde.
Praxisbeispiel Deutschland: Agentur mit externer Buchhaltung
Eine deutsche Agentur lässt Projektverantwortliche Rechnungen vorprüfen und übergibt sie anschließend an eine externe Buchhaltung. Beim Datenschutztest verweigert eine Mitarbeiterin den privaten Chatbot korrekt, weiß aber nicht, ob die freigegebene Alternative auch Kundennamen verarbeiten darf. Der Test deckt damit keine individuelle Wissenslücke, sondern eine fehlende Unternehmensregel auf.
Die Agentur dokumentiert Datenklassen, freigegebene Zwecke und Ansprechpartner. Die externe Buchhaltung nimmt an den relevanten Übungen teil, weil sie im Auftrag mit den KI-Ergebnissen arbeitet. Datenschutzrollen und vertragliche Vereinbarungen werden separat geprüft.
Österreich und Deutschland: Was gleich bleibt
Artikel 4 des AI Act verfolgt in beiden Ländern denselben kontextbezogenen Kompetenzansatz. Nationale Zuständigkeiten und Aufsichtspraxis können sich unterscheiden, die praktische Kernfrage bleibt aber gleich: Können die handelnden Personen die Risiken ihres konkreten Systems und Einsatzes beherrschen?
Auch die DSGVO gilt parallel. In Österreich veröffentlicht die Datenschutzbehörde Hinweise zu KI und Datenschutz; in Deutschland bieten das BSI und die zuständigen Datenschutzaufsichten Orientierung. Ein bestandener Praxistest ist keine pauschale Rechtskonformitätsbescheinigung. Er ist ein belastbarer Nachweis, dass definierte Kontrollen nicht nur auf Papier stehen.
Checkliste für den ersten Testtag
- Nur synthetische oder anonymisierte Rechnungen verwenden.
- Produktive Zahlungen, Buchungen und Stammdaten technisch ausschließen.
- Pro Übung Fehlerbild, erwartete Reaktion und Muss-Kriterium festlegen.
- Alle Rollen testen, die KI bedienen, Ergebnisse nutzen oder Folgeaktionen freigeben.
- Beobachtung und fachliche Nachbesprechung trennen.
- Nicht nur Treffer, sondern auch Eskalationsweg und Dokumentation bewerten.
- Kritische Nullergebnisse sofort mit einer konkreten Maßnahme beantworten.
- Geänderte Maßnahmen mit einer zweiten, variierten Übung nachprüfen.
Die wichtigsten Takeaways
KI-Kompetenz zeigt sich im Handeln unter realistischen Bedingungen. Sieben kurze Fehlerübungen machen sichtbar, ob ein Team Originalbelege prüft, Bankdaten unabhängig bestätigt, steuerliche Sonderfälle eskaliert, vertrauliche Daten schützt, Dokumentangriffe erkennt, Rechte begrenzt und bei Ausfall arbeitsfähig bleibt.
Das Ziel ist nicht, Menschen beim Test zu überführen. Der Test soll Schwächen im Prozess finden, bevor ein echter Beleg, eine echte Zahlung oder ein echter Datenschutzvorfall betroffen ist. Gute Ergebnisse werden dokumentiert; schlechte Ergebnisse führen zu einer klaren Regel, einer technischen Begrenzung oder einer gezielten Wiederholung.
Quellen
Verwandte Artikel
Kommentare
Noch keine Kommentare. Schreiben Sie den ersten.