--- title: "Wann reichen Stichproben bei einem KI-Agenten? — MING Labs" description: "Wann dürfen KI-Agenten Routineaufgaben ohne Prüfung jedes Ergebnisses erledigen? Eine Entscheidungshilfe zu Belegen, Grenzen, Stichproben und erneuter Freigabe." canonical: https://www.minglabs.com/de/insights/answers/wann-reichen-stichproben-bei-einem-ki-agenten lang: de last-updated: 2026-10-19 --- # Wann reichen Stichproben bei einem KI-Agenten? [Startseite](/de) [Insights (EN)](/insights) [Antworten (EN)](/insights/answers) Wann reichen Stichproben bei einem KI-Agenten? [English](/insights/answers/when-can-you-switch-from-checking-every-ai-agent-output-to-sampling)[Deutsch](/de/insights/answers/wann-reichen-stichproben-bei-einem-ki-agenten) Antwort Stellen Sie nur für eine klar begrenzte Aufgabe auf Stichproben um, deren Ergebnisse und Ausnahmefälle nach vereinbarten Kriterien geprüft wurden. Die verantwortliche Person muss festlegen, was freigegeben ist, wer die Stichproben prüft und wann wieder jedes Ergebnis vorab geprüft wird. Könnte ein unentdeckter Fehler bereits einen unvertretbaren Schaden verursachen, bleibt die vorherige Freigabe bestehen. Stichproben überwachen Qualität; sie erteilen keine neuen Befugnisse.[\[S2\]](#source-s2)[\[S3\]](#source-s3) Beispielhafte Methode · interner Auftragsstatus Nur freigegebene Routine wechselt zur Stichprobe Ein Kollege fragt nach dem Auftragsstatus Passt die Anfrage zur belegten und freigegebenen Aufgabe? Ja · aktueller Datensatz, interne Empfänger Agent sendet die erlaubte Statusauskunft Benannte Person prüft später eine definierte Stichprobe Nein · unklarer Datensatz oder Kundenzusage Ein Mensch prüft vor jedem Versand Auftragsänderungen und neue Befugnisse bleiben ausgeschlossen Unerwarteter Fehler oder geänderte Bedingungen → betroffenen automatischen Schritt anhalten und wieder vorab prüfen So unterscheiden sich die Prüfungen: | Bedingung | Erforderlicher Schritt | | --- | --- | | Freigegebene Routine; spätere Fehlerentdeckung vertretbar | Innerhalb der Erlaubnis senden, Ergebnis protokollieren und stichprobenartig prüfen. | | Unklar, außerhalb der Aufgabe oder unvertretbare Folgen | Vor dem Versand menschlich prüfen. | | Bedingungen der Freigabe gelten nicht mehr | Betroffenen automatischen Schritt anhalten und neu bewerten. | Die Verzweigung zeigt Befugnisse, keine Mengen. Der vorgeschlagene Ablauf setzt eine dokumentierte Freigabe voraus. Spätere Stichproben verhindern keinen Schaden, der vor der Entdeckung entsteht. Aktualisiert: Oktober 2026 | Nächste Prüfung: Januar 2027 Vorgeschlagene MING-Methode [Maschinenlesbare Fassung ](/de/insights/answers/wann-reichen-stichproben-bei-einem-ki-agenten.json) Von MING Labs · Redaktion Die Antwort im Überblick 1. [Die konkrete Prüfung auswählen, die entfallen könnte.](#task) 2. [Ergebnisse und Übergaben für genau diese Aufgabe prüfen.](#evidence) 3. [Stichproben von der Erlaubnis zum Handeln trennen.](#sampling) ## Beginnen Sie mit der Routineaufgabe, die Sie nicht mehr einzeln prüfen wollen Der Agent hat die nächste Meldung vorbereitet und wartet auf Ihre Freigabe. Wenn jedes Ergebnis in derselben Warteschlange landet, bedeutet mehr Arbeit des Agenten für Sie zunächst mehr Lesearbeit. Entscheidend ist deshalb, welche dieser Prüfungen noch einen Fehler verhindert, auf den es ankommt. In unserem öffentlichen Bericht begann ein Auftragsagent damit, Entwürfe zu schreiben. Später traute ihm die verantwortliche Person die Standardfälle zu; Ausnahmen gingen weiterhin an einen Menschen. Der Bericht beschreibt diese Entwicklung. Er nennt aber weder die Fallzahlen noch die Abnahmekriterien oder Fehlerquoten, auf denen die Entscheidung beruhte.[\[S1\]](#source-s1) Daraus lässt sich eine praktische Entscheidungshilfe entwickeln, jedoch keine bewiesene Freigabeschwelle. Nehmen wir dafür ein eigenes, ausdrücklich beispielhaftes Szenario: Ein Agent meldet dem internen Vertriebsteam den Status eines Auftrags aus dem Auftragssystem. Das Team möchte Routineauskünfte nicht mehr jedes Mal freigeben. Das ist eine engere Entscheidung, als den Agenten Liefertermine gegenüber Kunden zusagen oder Aufträge ändern zu lassen. Halten Sie zuerst fest, welche Meldung an welche Empfänger aus welcher Quelle freigegeben werden soll. ## Hält eine dieser Prüfungen Ihr Team auf? Besprechen Sie eine konkrete Aufgabe und die Belege, die für weniger Kontrolle nötig wären. [Meine Prüfungen besprechen](/de/contact?type=project&topic=review-sampling) Sie beschreiben Ihr Anliegen. Wir melden uns persönlich. ## Eine spätere Stichprobe verhindert keinen bereits entstandenen Schaden Bei der internen Statusmeldung lautet die nächste Frage: Was passiert, wenn sie falsch ist und erst bei der nächsten Stichprobe auffällt? Kann das Team sie korrigieren, bevor jemand danach handelt? Betrifft der Fehler nur diese Meldung, oder löst sie an anderer Stelle eine Zusage, Zahlung oder Änderung aus? Davon hängt ab, ob eine spätere Entdeckung vertretbar ist. Die technische Anleitung von OpenAI bewertet Aktionen unter anderem nach Umkehrbarkeit, Berechtigungen und finanziellen Folgen. Für besonders riskante Aktionen empfiehlt sie menschliches Eingreifen.[\[S3\]](#source-s3) Unser Vorschlag lautet deshalb: Wo ein unbemerkter Fehler unvertretbare Folgen hätte, bleibt die vorherige Freigabe bestehen. Ein Jahr mit guten Ergebnissen hebt diese Grenze nicht von selbst auf. Die Grenze muss im Ablauf tatsächlich gelten. Darf der Agent eine interne Auskunft senden, aber keinen Auftrag ändern, müssen seine Zugänge und die Weiterleitung dazu passen. Eine unbekannte Anfrage oder ein fehlender Quelldatensatz geht vor dem Versand an einen Menschen. Weniger Kontrolle bei einer erlaubten Aufgabe darf nicht nebenbei zu mehr Befugnissen führen. ## Prüfen Sie Ergebnisse und Übergaben für genau die Aufgabe, die Sie freigeben wollen Bevor die einzelne Freigabe entfällt, braucht das Team eine schriftliche Beschreibung des richtigen Ergebnisses. Im Beispiel gehören dazu der richtige Auftrag, sein aktueller Status aus der Quelle, die vorgesehenen internen Empfänger und der Verzicht auf unbelegte Zusagen. Prüfen Sie gewöhnliche Anfragen ebenso wie fehlende Datensätze, widersprüchliche Statusangaben und Anfragen außerhalb der erlaubten Aufgabe. Vergleichen Sie Änderungen mit denselben Eingaben und Kriterien, wiederholen Sie Fälle mit schwankenden Ergebnissen und kontrollieren Sie, was tatsächlich passiert ist. Die Erfolgsmeldung des Agenten genügt nicht. Diese Grundsätze beschreibt Anthropic in seiner Anleitung zur Bewertung von Agenten.[\[S2\]](#source-s2) Unsere [Anleitung zur Abnahme](/de/insights/answers/wie-pruefen-sie-einen-ki-agenten-vor-dem-produktiven-einsatz) erklärt den Testaufbau. Hier geht es um die anschließende Entscheidung, welche laufende Prüfung diese Belege entbehrlich machen. Sehen Sie sich auch die Übergaben an. Wurde ein unklarer Fall vor dem Versand gestoppt? Hat die zuständige Person die ursprüngliche Anfrage und die offene Frage erhalten? Erfassen Sie falsche Ergebnisse, sinnvolle Übergaben und fehlende Arbeit getrennt, wie in unserer [Antwort zur Qualität](/de/insights/answers/woran-erkennen-sie-ob-ein-ki-agent-besser-wird) . Halten Sie Fallzahlen, abgedeckte Aufgaben und ungeprüfte Situationen fest. Ein Gesamturteil wie „bestanden“ reicht für diese Entscheidung nicht aus. ## Trennen Sie Zufallsstichproben von der Prüfung auffälliger Fälle Auch nach einer begrenzten Freigabe muss jemand echte Arbeit ansehen. Wir schlagen dafür zwei getrennte Prüfungen vor: eine Zufallsstichprobe aus den erlaubten Routinefällen und gezielte Prüfungen ungewöhnlicher Eingaben, Beschwerden und Beinahe-Fehler. Die erste verhindert, dass nur besonders einprägsame Fälle betrachtet werden. Die zweite hilft, konkreten Risiken nachzugehen. Vermischen Sie die Zahlen nicht zu einer vermeintlichen Gesamtfehlerquote. NIST beschreibt Zufallsstichproben als Auswahl mit gleicher Chance, gezogen zu werden.[\[S4\]](#source-s4) Im Beispiel umfasst die Auswahl alle zulässigen internen Statusmeldungen eines festgelegten Zeitraums. Ziehen Sie daraus die Fälle, statt den Agenten seine besten Ergebnisse zeigen zu lassen. Fehlgeschlagene und ausgebliebene Durchläufe bleiben daneben sichtbar. Auswahlverfahren, Anzahl, Prüfrhythmus und prüfende Person werden festgelegt, bevor die Ergebnisse bewertet werden. Eine allgemeine Prozentzahl macht das nicht sicher. Ein seltener, schwerwiegender Fehler kann in einer kleinen Stichprobe fehlen. Verändert sich die Arbeit, sagt die gestrige Auswahl womöglich wenig über die heutige aus. Wenn Ihre Entscheidung einen statistischen Sicherheitsnachweis verlangt, muss der Stichprobenplan auf genau diesen Nachweis und seine Voraussetzungen ausgelegt werden. Diese Anleitung liefert ihn nicht. Ergänzen Sie die menschlichen Prüfungen im Alltag durch Meldungen über fehlende Datensätze, gescheiterte Zustellung und unerwartete Aktionen. Anthropic empfiehlt, Tests, Beobachtung im Betrieb und regelmäßige menschliche Prüfung zu verbinden.[\[S2\]](#source-s2) Unsere [Antwort zum Prüfprotokoll](/de/insights/answers/was-gehoert-in-das-protokoll-eines-ki-agenten) zeigt, welche Nachweise eine Anfrage mit ihrem tatsächlichen Ergebnis verbinden. ## Halten Sie fest, wer die Prüfung reduziert und wann sie wieder eingeführt wird Die für den Prozess verantwortliche Person entscheidet über die Freigabe; die prüfende Person liefert die Belege. Sind das verschiedene Menschen, benennen Sie beide. Unsere [Antwort zur Verantwortung](/de/insights/answers/wer-traegt-die-verantwortung-wenn-ein-ki-agent-einen-fehler-macht) erklärt diese Unterscheidung. Beziehen Sie außerdem die zuständigen Kontrollfunktionen ein, wenn die Aufgabe deren Freigabe verlangt. Mit diesem vorgeschlagenen Entscheidungsprotokoll lässt sich eine einzelne Aufgabe durchgehen. Fehlt ein Nachweis oder ist ein Fehler ungeklärt, bleibt die bisherige Prüfung bestehen, bis die Lücke geschlossen ist. | Vor der Änderung festhalten | Im Beispiel der internen Statusmeldung | | --- | --- | | Genaue Erlaubnis | Benanntes Quellsystem, unterstützte Auftragsstatus und interne Empfänger; keine Auftragsänderungen oder Kundenzusagen. | | Belege und offene Fragen | Geprüfte Version, Zeitraum, Fallzahlen, abgedeckte Aufgaben, Fehler und nachgewiesene Übergaben bei Ausnahmen. | | Entscheidung und Zuständigkeit | Wer die geringere Prüfung freigibt, wer Stichproben beurteilt und wann die Entscheidung erneut geprüft wird. | | Laufende Kontrolle | Definierte Routine-Stichprobe, getrennte gezielte Prüfungen, Warnmeldungen und Zeit zum Eingreifen. | | Rückkehr zur vorherigen Freigabe | Festgelegter unvertretbarer Fehler, gescheiterte Übergabe, fehlende Protokolle oder ungeprüfte Änderung an Aufgabe oder System. | Erproben Sie auch diesen Rückweg. Das Team muss den betroffenen automatischen Schritt anhalten, wartende Arbeit übernehmen und möglicherweise falsche Ergebnisse finden können. Ein anderes Modell, neue Rechte oder ein geändertes Quellsystem verlangen eine erneute Bewertung der betroffenen Aufgabe. Die alte Freigabe gilt nicht automatisch weiter, nur weil der Agent noch denselben Namen trägt. Beginnen Sie mit einer Aufgabe, die heute bereits geprüft wird. Gehen Sie deren jüngste Ergebnisse und Übergaben mit der Person durch, die die Arbeit abnimmt. Klären Sie, welcher Beleg noch fehlt, und ändern Sie nur die Prüfung, für die die vorhandenen Belege ausreichen. Erfassen Sie anschließend Prüfungen und Korrekturen im gesamten Team, damit die vermeintliche Entlastung nicht bloß in der Warteschlange eines Kollegen landet. Belege und Grenzen der Methode - Die MING-Quelle beschreibt eine Änderung der Betreuung. Die genauen Freigabekriterien, Fallprotokolle sowie Vorher-nachher-Messungen von Fehlern und Zeitaufwand sind nicht veröffentlicht. - Die interne Statusauskunft, die Verzweigung in der Grafik und das Entscheidungsprotokoll sind beispielhafte Vorschläge. Sie beschreiben weder die genauen Befugnisse des berichteten Agenten noch eine beschlossene unternehmensweite Richtlinie. - Technische Anleitungen stützen die Bausteine der Methode. Sie belegen keine allgemeine Freigabeschwelle, garantierte Zeitersparnis oder Erlaubnis, eine vorgeschriebene menschliche Freigabe zu streichen. Kurzantwort zum Zitieren MING Labs schlägt vor, menschliche Prüfungen Aufgabe für Aufgabe zu reduzieren, nachdem tatsächliche Ergebnisse, Übergaben bei Ausnahmen und die Folgen übersehener Fehler geprüft wurden. Halten Sie den erlaubten Umfang, die verantwortliche Person, den Stichprobenplan und die Gründe für eine Rückkehr zur vorherigen Freigabe fest. Ein guter Test allein erteilt keine neuen Befugnisse und macht nachträgliche Stichproben nicht für unumkehrbare Aktionen geeignet. Gestützt auf einen veröffentlichten MING-Bericht und primäre technische Anleitungen. Die Methode und das Beispiel zum internen Auftragsstatus sind Vorschläge, kein gemessenes Kundenergebnis. ## Welche Prüfung könnte Ihr Team reduzieren? Bringen Sie eine Aufgabe mit, deren Ergebnisse Ihr Team heute einzeln prüft. Gemeinsam besprechen wir die nötigen Belege, Übergaben bei Ausnahmen und Grenzen einer geringeren Kontrolle. [Meine Prüfungen besprechen](/de/contact?type=project&topic=review-sampling) Sie beschreiben Ihr Anliegen. Wir melden uns persönlich. [Zur Abnahme vor dem Produktiveinsatz ](/de/insights/answers/wie-pruefen-sie-einen-ki-agenten-vor-dem-produktiven-einsatz) ## Quellen \[S1\] [AI helps developers complete 21% more tasks](https://www.linkedin.com/posts/smueller1512_ai-helps-developers-complete-21-more-tasks-share-7517875674754383872-BO2p/) Sebastian Mueller, LinkedIn · Abgerufen am 19.10.2026; Anzeige bei der Erstprüfung: 2 Stunden Belegt: Veröffentlichter Bericht über den Übergang von Entwürfen zu Standardfällen mit menschlicher Bearbeitung von Ausnahmen; keine gemessene Freigabeschwelle. Veröffentlichte MING-Erfahrung. Originaltext und Grafik geprüft; Rohprotokolle und genaue Freigabekriterien liegen nicht vor. Planungswerte sind keine Messungen. \[S2\] [Demystifying evals for AI agents](https://www.anthropic.com/engineering/demystifying-evals-for-ai-agents) Anthropic · 09.01.2026; geprüft am 19.10.2026 Belegt: Klare Kriterien, tatsächliche Ergebnisse, wiederholte Tests sowie ergänzende Beobachtung und menschliche Prüfung im Betrieb. Primäre technische Anleitung; kein Beleg für den MING-Fall. \[S3\] [A practical guide to building agents](https://cdn.openai.com/business-guides-and-resources/a-practical-guide-to-building-agents.pdf) OpenAI · Geprüft am 19.10.2026, Seiten 25 und 30 Belegt: Risiko, Umkehrbarkeit und menschliches Eingreifen bei folgenreichen Aktionen. Primäre technische Anleitung; keine rechtliche Freigabe für einen konkreten Einsatz. \[S4\] [Random sampling](https://csrc.nist.gov/glossary/term/random_sampling) NIST CSRC Glossary · Geprüft am 19.10.2026 Belegt: Zufallsauswahl mit gleicher Auswahlchance; keine vorgeschriebene Stichprobengröße für KI-Agenten. Primäre Definition. Hier Teil einer vorgeschlagenen Methode, kein statistisch validierter Nachweisplan. ## Häufige Fragen Wie viele erfolgreiche Fälle reichen für weniger Kontrolle? Eine allgemeingültige Anzahl gibt es nicht. Legen Sie vor der Auswahl fest, welche Aufgaben vorkommen, welche Fehler nicht akzeptabel sind und wie belastbar die Entscheidung sein muss. Wiederholte Durchläufe und schwierige Fälle gehören dazu. Eine kurze fehlerfreie Serie kann seltene Fehler übersehen und beweist nicht, dass sie ausgeschlossen sind. Wie viel Prozent der Ergebnisse sollten wir prüfen? Anzahl und Häufigkeit hängen von Arbeitsmenge, Fehlerfolgen und der verfügbaren Zeit zum Eingreifen ab. Legen Sie fest, wer Fälle auswählt und beurteilt. Halten Sie Zufallsstichproben und gezielte Prüfungen auffälliger Fälle getrennt und dokumentieren Sie jeweils die Grundgesamtheit. Diese Anleitung nennt keine allgemeine Prozentzahl und liefert keinen statistischen Sicherheitsnachweis. Kann eine zweite KI die menschliche Prüfung übernehmen? Sie kann auffällige Fälle markieren. Ihre Urteile müssen aber an vereinbarten Kriterien und einer sachkundigen menschlichen Bewertung geprüft werden. Zwei übereinstimmende Modelle sind kein unabhängiger Beweis für Richtigkeit. Welche Ergebnisse und Risiken akzeptabel sind, entscheidet weiterhin die verantwortliche Person. Ist ein Agent gescheitert, wenn nach einem Jahr noch Menschen prüfen? Nein. Bei folgenreichen Aufgaben kann eine vorherige menschliche Freigabe dauerhaft sinnvoll sein. Entscheidend sind brauchbare Ergebnisse, Fehlerfolgen und der gesamte menschliche Aufwand. Eine notwendige Prüfung nur für mehr Autonomie zu streichen, kann den Ablauf verschlechtern. ## Begriffe erklärt [Was ist eine hybride Organisation aus Menschen und KI?](/de/insights/concepts/was-ist-eine-hybride-organisation) ## Verfügbare Aktionen - **Antwort für meine KI kopieren**: kopiert den [vollständigen Inhalt](https://www.minglabs.com/de/insights/answers/wann-reichen-stichproben-bei-einem-ki-agenten.md) im Browser in die Zwischenablage. --- Canonical: https://www.minglabs.com/de/insights/answers/wann-reichen-stichproben-bei-einem-ki-agenten Maschinenlesbarer Index: https://www.minglabs.com/llms.txt