138 lines
5.1 KiB
Markdown
138 lines
5.1 KiB
Markdown
# Manuelle Bewertung der KI-Fehleranalyse – Version 1
|
||
|
||
Grundlage:
|
||
- invoice-interface-v1.md
|
||
- ai-analysis-prompt.md
|
||
- Jeweils ein gespeicherter ImportAssist-Prüfbericht
|
||
|
||
## Fall A: Completed mit fachlichen Fehlern
|
||
|
||
Eingabe:
|
||
Fünf geprüfte Rechnungen, eine gültig, vier fehlerhaft.
|
||
|
||
Die Antwort muss:
|
||
- Completed als abgeschlossene Prüfung einordnen.
|
||
- Die vier fehlerhaften Rechnungen mit ihren Befunden erklären.
|
||
- Die gemeldeten Fehler passenden Regelkennungen zuordnen.
|
||
- Fehlende Informationen für die Korrektur benennen.
|
||
- Die gültige Rechnung ohne zusätzliche Fehlerbewertung lassen.
|
||
|
||
Die Antwort darf nicht:
|
||
- Kundennummern, Rechnungsnummern oder Beträge erfinden.
|
||
- Einen konkreten ursprünglichen Betrag behaupten.
|
||
- Ohne Beleg zwischen Nullbetrag und negativem Betrag unterscheiden.
|
||
- Eine gültige Währung oder existierende Kunden bestätigen.
|
||
|
||
## Fall B: Rejected wegen CSV-Struktur
|
||
|
||
Eingabe:
|
||
Status Rejected, leere rows, alle Zähler null.
|
||
fileErrors meldet für Zeile 3:
|
||
„Erwartet werden vier Spalten ohne Anführungszeichen.“
|
||
|
||
Die Antwort muss:
|
||
- Die Abweisung der gesamten Datei erklären.
|
||
- Auf CSV-Zeile 3 verweisen.
|
||
- CSV-001 und REP-001 passend heranziehen.
|
||
- Klarstellen, dass keine fachliche Rechnungsprüfung stattfand.
|
||
- Die Prüfung der Originalzeile und erneute Verarbeitung empfehlen.
|
||
|
||
Die Antwort darf nicht:
|
||
- Die Datei aufgrund der Nullzähler als fehlerfrei bezeichnen.
|
||
- Einzelne Rechnungen fachlich bewerten.
|
||
- Behaupten, welche konkrete Spalte fehlt.
|
||
- Behaupten, ob zu wenige Spalten, zu viele Spalten oder
|
||
Anführungszeichen die Ursache waren.
|
||
|
||
## Bewertung
|
||
|
||
Für jede Antwort prüfen:
|
||
1. Stimmen alle Aussagen mit den bereitgestellten Quellen überein?
|
||
2. Passen die Regelverweise?
|
||
3. Sind die nächsten Prüfschritte konkret und zulässig?
|
||
4. Werden Informationslücken ausdrücklich benannt?
|
||
|
||
Erster manueller Durchlauf:
|
||
Beide Fälle anhand der Antworten im Lernchat geprüft.
|
||
Kein automatisierter Modelltest und kein Nachweis wiederholbarer Qualität.
|
||
|
||
## Testlauf vom 09.09.2026 – Completed mit fachlichen Fehlern
|
||
|
||
### Konfiguration
|
||
- Modell: gpt-4.1-mini
|
||
- Modellversion: 2025-04-14
|
||
- Bereitstellung: importassist-analysis (Global Standard)
|
||
- Durchführung: manuell im Foundry-Playground
|
||
- Quellen: invoice-interface-v1.md und invoices-report.json
|
||
- Anweisungen: ai-analysis-prompt.md vor der heutigen Ergänzung
|
||
- Websuche: deaktiviert
|
||
|
||
### Eingabe
|
||
Prüfbericht mit Status Completed:
|
||
5 Rechnungen, davon 1 gültig und 4 fehlerhaft.
|
||
Keine Dateistrukturfehler.
|
||
|
||
### Erwartung
|
||
- Mengen, Zeilen und Regelkennungen korrekt wiedergeben.
|
||
- Completed als abgeschlossene Prüfung erklären.
|
||
- Keine Importfreigabe oder Erlaubnis zum Teilimport ableiten.
|
||
- Gültigkeit auf die implementierten Prüfregeln begrenzen.
|
||
- Keine ursprünglichen Beträge oder Ersatzwerte erfinden.
|
||
|
||
### Beobachtung
|
||
- Mengen, betroffene Zeilen und Regelkennungen korrekt erkannt.
|
||
- Prüfschritte mit Bezug auf Quelldaten vorgeschlagen.
|
||
- Keine konkreten Ersatzwerte erfunden.
|
||
- Unbelegte Aussage: „Datei insgesamt importierbar“.
|
||
- Zu umfassende Aussage: INV-001 sei „fehlerfrei“.
|
||
|
||
### Bewertung
|
||
Teilweise bestanden.
|
||
|
||
Die Antwort enthält eine unbelegte Importfreigabe und stellt die
|
||
Aussagekraft der implementierten Prüfregeln zu umfassend dar.
|
||
|
||
### Anpassung
|
||
Anweisungen um zwei Klarstellungen ergänzt:
|
||
- Completed bedeutet keine Importfreigabe.
|
||
- isValid gilt ausschließlich für die implementierten Prüfregeln.
|
||
|
||
### Wiederholung
|
||
Noch offen. Dieselbe Eingabe in einem neuen Chat mit den ergänzten
|
||
Anweisungen testen und das Ergebnis hier dokumentieren.
|
||
|
||
### Wiederholung 2 mit präzisierten Anweisungen
|
||
- Mengen, Fehler und Regelkennungen korrekt wiedergegeben.
|
||
- Keine unbelegte Importfreigabe.
|
||
- Aussagekraft der Prüfung eingeschränkt; Währung als ungeprüft benannt.
|
||
- Gewünschte Formulierung für isValid=true nicht wörtlich übernommen.
|
||
- Ungenaue Bezeichnung „keine Rechnung“ statt „Rechnungsnummer fehlt“.
|
||
- Gutschrift als mögliche Ursache angesprochen, ohne sie ausdrücklich
|
||
als unbelegte Hypothese zu kennzeichnen.
|
||
|
||
Bewertung: teilweise bestanden; wesentliche frühere Fehler behoben.
|
||
Verbleibende sprachliche und fachliche Unschärfen dokumentiert.
|
||
Ein einzelner Lauf belegt noch keine zuverlässige Wiederholbarkeit.
|
||
|
||
## Testlauf vom 09.09.2026 – Rejected wegen Strukturfehler
|
||
|
||
### Eingabe
|
||
Prüfbericht mit Status Rejected, leeren rows und einem
|
||
Dateistrukturfehler in Zeile 3.
|
||
|
||
### Beobachtung
|
||
- Status Rejected und fehlende fachliche Prüfung korrekt erklärt.
|
||
- Zeile 3 korrekt als zweite Datenzeile eingeordnet.
|
||
- Strukturfehler korrekt CSV-001 zugeordnet.
|
||
- Keine bestimmte fehlende Spalte erfunden.
|
||
- Mögliche Fehlerursachen ausdrücklich offengelassen.
|
||
- Keine Behauptung, die Datei enthalte null Rechnungen.
|
||
- Entfernen von Anführungszeichen zu konkret empfohlen,
|
||
obwohl deren Vorhandensein unbekannt ist.
|
||
- Bezeichnung der gesamten Datei als „unbrauchbar“ zu pauschal.
|
||
- Quellenzuordnung der Zeilenzählung zu REP-001 noch zu prüfen.
|
||
|
||
### Bewertung
|
||
Teilweise bestanden.
|
||
Kernaussage korrekt; Korrekturvorschlag und Wortwahl benötigen
|
||
Präzisierung. Eine Quellenzuordnung bleibt offen. |