Verfolgen Sie die Kundenanfrage bis zum Ergebnis.
Stellen Sie sich einen Agenten vor, der Antworten zu Lieferterminen vorbereitet. Er liest die Kundenfrage, ruft die Bestellung ab und legt einer Kollegin einen Entwurf zur Freigabe vor. Fehlt die Bestellnummer, soll er nachfragen. Wer nur den ersten Modellaufruf vergleicht, übersieht den zweiten Abruf, einen weiteren Antwortversuch und die Kollegin, die den Entwurf korrigiert.
Wir würden für jede Anfrage festhalten: Aufgabe, Modell und Einstellungen, gesamten Verbrauch und Werkzeuggebühren, Wiederholungen, Ergebnis, Prüfzeit und Abnahme. Tokens sind die Einheiten, in denen Text verarbeitet wird; Eingabe und Ausgabe können unterschiedliche Preise haben. Prüfen Sie die Abrechnungsfelder des Anbieters gegen die tatsächliche Belastung. Ein Abonnement mit Nutzungskontingent braucht eine eigene Rechnung: Ein Tokenverbrauch ist nicht automatisch eine zusätzliche Rechnung.
Legen Sie vor dem Test fest, was eine brauchbare Antwort ausmacht. In diesem Beispiel nennt sie die richtige Bestellung, nur einen belegten Termin und nötige Rückfragen. Erfassen Sie eine richtige Übergabe an einen Menschen getrennt von einer abgeschlossenen Antwort. Für beide Varianten gelten dieselben Definitionen.[S1]
Entfernen Sie Wiederholungen, ohne nötige Angaben zu verlieren.
Ein erster Versuch könnte nur Bestellstatus und erwarteten Termin zurückgeben statt der vollständigen Bestellhistorie. Ein anderer entfernt eine doppelte Anweisung oder verlangt die konkrete Kundenantwort statt einer langen internen Zusammenfassung. Ändern Sie jeweils eine Sache, damit sich das Ergebnis erklären lässt. Auch OpenAIs Optimierungsleitfaden beginnt mit Ausgangsmessung, Änderung und Qualitätsprüfung. Seine simulierten Einsparungen sind keine Prognose für Ihre Arbeit.[S2]
Bestellkennung, relevante Ausnahme und Stand der Quelle müssen erhalten bleiben. Verschwindet beim Kürzen eine Teillieferung, kann die Antwort überzeugend und trotzdem unbrauchbar sein. Die prüfende Kollegin braucht in beiden Varianten dieselben Belege und Kriterien. Vergleichen Sie Routineanfragen und wichtige Ausnahmen getrennt. Sonst kann ein besserer Durchschnitt einen neuen schwerwiegenden Fehler verdecken.
Dass solche Prüfungen nötig sind, zeigt ein konkreter Gegenbefund. Anthropic berichtete im April 2026, eine abgesenkte Denkeinstellung und eine Anweisung für kürzere Texte nach Qualitätsproblemen zurückgenommen zu haben. Hinzu kam ein behobener Fehler, der frühere Überlegungen wiederholt entfernte. Betroffen waren Änderungen auf Produktebene; laut Bericht war die API nicht betroffen. Weniger Denken oder weniger Text ist also nicht automatisch eine Verbesserung.[S4]
Caching lohnt sich nur, wenn die Eingabe tatsächlich wiederverwendet wird.
Beginnen viele Anfragen mit denselben Anweisungen, kann Prompt Caching diesen Anfang wiederverwenden. Halten Sie stabile Angaben zusammen und wechselnde Bestelldaten getrennt, soweit die Schnittstelle das unterstützt. Anthropics Dokumentation unterscheidet Schreibvorgänge, Lesevorgänge und nicht zwischengespeicherte Eingaben. Ein geänderter Anfang oder abgelaufener Cache kann die Wiederverwendung verhindern; die Ausgabe muss weiterhin entstehen.[S3]
Prüfen Sie für die Lieferantwort sowohl den ersten Aufruf ohne vorhandenen Cache als auch spätere Wiederholungen. Vergleichen Sie die abgerechneten Summen einschließlich möglicher Schreibkosten. Verlängern Sie einen kurzen Prompt nicht bloß, um eine Cache-Schwelle zu erreichen. Wenn erneute Abrufe, Fehlversuche oder Korrekturen die Kosten bestimmen, betrifft der Rabatt möglicherweise nur einen kleinen Teil.
3 € weniger Modellkosten helfen wenig bei 30 € zusätzlicher Korrektur.
Unser erfundenes Beispiel vergleicht dieselben 100 ursprünglichen Anfragen. Wir wählen 2 € je Million Eingabetokens, 8 € je Million Ausgabetokens und 60 € je Prüfstunde. Das sind Rechenannahmen, keine aktuellen Anbieterpreise oder ein MING-Angebot. Alle Tokenmengen enthalten die zusätzlichen Versuche bereits. Der Wiederholungszähler wird nicht noch einmal auf die Rechnung aufgeschlagen.[S1]
Ausgangsmenge und angenommene Preise bleiben gleich. Alle folgenden Ergebnisse sind erfunden.
| Für 100 ursprüngliche Anfragen | Ausgangslage | Weniger wiederholter Kontext | Zu viel Kontext entfernt |
|---|---|---|---|
| Eingabetokens (Millionen) | 2 | 1,5 | 1 |
| Ausgabetokens (Millionen) | 0,5 | 0,25 | 0,375 |
| Zusätzliche Versuche | 20 | 12 | 25 |
| Modellverbrauch | 8,00 € | 5,00 € | 5,00 € |
| Prüfung und Korrektur (Minuten) | 60 | 60 | 90 |
| Prüfung und Korrektur | 60,00 € | 60,00 € | 90,00 € |
| Zusammen | 68,00 € | 65,00 € | 95,00 € |
| Abgenommene Entwürfe | 90 | 90 | 85 |
| Summe je abgenommenem Entwurf | 0,76 € | 0,72 € | 1,12 € |
Die Modellkosten ergeben sich aus Eingabemillionen × 2 € plus Ausgabemillionen × 8 €. Die Prüfung kostet Minuten ÷ 60 × 60 €. Teilen Sie die Summe durch abgenommene Entwürfe: 68 € ÷ 90 sind rund 0,76 €; 65 € ÷ 90 sind 0,72 €; 95 € ÷ 85 sind 1,12 €. Die letzte Variante hat dieselbe Modellrechnung von 5 € wie die schlankere. Ihre angenommene zusätzliche Korrektur macht jeden abgenommenen Entwurf jedoch teurer.
Die Fälle zeigen den Rechenweg. Sie belegen nicht, dass das Entfernen von Kontext diese Ergebnisse in einem echten Versuch verursacht hat. Auch eine gleiche Abnahmezahl beweist keine gleiche Qualität: Prüfen Sie die einzelnen Fehler und unverzichtbaren Anforderungen. Zum vollständigen Monatsbudget gehören weitere Posten. Sie stehen in unserer Antwort zu den laufenden Kosten eines KI-Agenten .
Entscheiden Sie anhand der Fehler und der Rechnung gemeinsam.
Lassen Sie die bisherige und die vorgeschlagene Fassung dieselben repräsentativen Aufgaben unter vergleichbaren Bedingungen bearbeiten. Halten Sie Modellversion, Einstellungen und Quellen fest, damit jemand den Vergleich wiederholen kann. Schwanken die Antworten, brauchen Sie Wiederholungen und zurückgehaltene Prüffälle. Eine gelungene Vorführung belegt nicht, dass die Fehlerquote gleich geblieben ist.
Vereinbaren Sie vor dem Vergleich, welche Fehler eine Freigabe verhindern und welche Unterschiede bei Qualität, Prüfzeit und Antwortzeit für diese Aufgabe vertretbar sind. Unbefugte Aktionen und erfundene Lieferzusagen werden nicht durch eine Einsparung aufgewogen. Unsere Antwort zur Qualitätsmessung erklärt, warum richtige Erledigung und richtige Übergabe eigene Zähler brauchen.
Belege und Grenzen
- Anfragen, Preise, Tokenmengen, Wiederholungen, Prüfzeiten und Abnahmezahlen sind erfunden. Es wurde weder ein Modellvergleich noch eine Kundenersparnis gemessen.
- Das vorgeschlagene Verfahren verbindet öffentliche technische Hinweise mit unserer eigenen Rechnung. Es gibt keine allgemeingültige Qualitätsschwelle, Stichprobengröße oder garantierte Einsparung vor.
- Enthalten sind nur Modellverbrauch und Prüfung. Werkzeuggebühren, Umsetzung, Hosting und Betreuung fehlen. Bei null abgenommenen Ergebnissen ist der Stückwert nicht definiert.
Wählen Sie eine wiederkehrende Aufgabe und eine Änderung, die einen Versuch wert ist. Sichern Sie die bisherigen Anfragen, vereinbarten Prüfpunkte und vollständigen Kosten, bevor Sie den Prompt ändern. Damit kann Ihr Team begründet entscheiden, ob es die Änderung behält, überarbeitet oder zur vorherigen Fassung zurückkehrt.
