Antwort

Wie prüfe ich KI-generierten Code vor dem Einsatz?

Halten Sie zuerst fest, was die Änderung leisten soll. Prüfen Sie dann den Code und die erwarteten Ergebnisse, bevor die konkrete Version freigegeben wird. Kontrollieren Sie auch, ob die Tests einen absichtlich eingebauten Fehler erkennen. Unser kleiner Rechenfall zeigt, warum ein bestandener Test eine klare fachliche Regel braucht. Er belegt nur das geprüfte Verhalten. Sicherheit, Zusammenspiel mit der Anwendung und Produktionsfreigabe bleiben eigene Prüfungen.[S1]

Ausgeführter Test, erfundene Eingaben

Erkennt der Test die falsche Antwort?

190 Minuten abgenommen + 95 Minuten verworfen
285 Personenminuten insgesamt

Abgenommene Ergebnisse zählen

285 ÷ 1 = 285

Erwartetes Ergebnis: Test besteht

Absichtlicher Fehler: Versuche zählen

285 ÷ 2 = 142,5

Falsches Ergebnis: Test muss scheitern

Personenminuten je abgenommenem Ergebnis

Beide Wege verwenden 285 Personenminuten. Die richtige Rechnung teilt durch ein abgenommenes Ergebnis und liefert 285. Die absichtlich falsche Fassung teilt durch zwei Versuche und liefert 142,5; unser Test weist sie zurück. Das prüft die gewählte fachliche Regel, nicht die Sicherheit der Anwendung. MING Labs, 8. und 9. November 2026.
Aktualisiert: | Nächste Prüfung: Geprüfter Rechenfall und vorgeschlagener Prüfablauf Maschinenlesbare Fassung

Von MING Labs · Redaktion

Die richtige Antwort steht vor dem Code fest.

Eine Rechnung kann ohne Fehlermeldung laufen und trotzdem die falsche Frage beantworten. In unserem Beispiel zur Softwareproduktivität benötigt eine abgenommene Änderung 190 Personenminuten. Ein verworfener Versuch kostet weitere 95. Die Zahlen sind erfunden. Der Code, der sie zusammenrechnet, gehört zu unserem veröffentlichten Beispiel.[S1]

Die fachliche Regel lautet: Auch verworfene Arbeit kostet Zeit, zählt aber nicht als abgenommenes Ergebnis. Richtig sind daher 285 Personenminuten für eine abgenommene Änderung. Wer durch zwei Versuche teilt, erhält 142,5. Die Zahl sieht plausibel aus, beantwortet aber eine andere Frage.

Wir haben die Rechnung der Seite getestet und zusätzlich eine Fassung mit genau diesem falschen Nenner erstellt. Der gezielte Test hat sie zurückgewiesen. Für die Codeprüfung ergibt sich daraus eine konkrete Frage: Würde unsere Prüfung den Fehler bemerken, der für die spätere Nutzung entscheidend ist?[S1]

Erwartete Ergebnisse müssen nachprüfbar sein.

Schreiben Sie vor einer kleinen Änderung gemeinsam mit der fachlich verantwortlichen Person auf, welche Eingaben zu welchen Ergebnissen führen sollen. Rechnen Sie die Erwartung getrennt vom vorgeschlagenen Code aus. Für unseren Fall ergeben sich die folgenden Prüfungen. Sie zeigen einen begrenzten Prüfumfang, keine allgemeingültige Zahl nötiger Tests.

Erfundene EingabeErwartetes ErgebnisGesuchter Fehler
Ein abgenommener Versuch: 190 Minuten; ein verworfener Versuch: 95 Minuten285 Minuten insgesamt, ein abgenommenes Ergebnis, 285 Minuten je abgenommenem ErgebnisVersuche als Ergebnisse zählen oder verworfenen Aufwand auslassen
Nur der verworfene Versuch mit 95 Minuten95 Minuten, kein abgenommenes Ergebnis; der Quotient ist nicht definiertNull Aufwand je Ergebnis melden, obwohl kein Ergebnis abgenommen wurde
Keine VersucheNull Gesamtminuten und null Ergebnisse; der Quotient bleibt nicht definiertEine leere Stichprobe als effiziente Arbeit darstellen
Fehlender, negativer oder nicht numerischer AufwandEingabe zurückweisen und die Beobachtung offenlassenEinen unbekannten Wert stillschweigend als null behandeln

Die richtige Umsetzung bestand vier gezielte Tests. Anschließend bauten wir zwei Fehler getrennt ein: alle Versuche als abgenommen zählen und bei einem nicht definierten Quotienten null zurückgeben. Beide fehlerhaften Fassungen scheiterten. Damit ist belegt, dass die jeweiligen Testbedingungen diese Fehler erkennen. Daraus folgen weder eine Fehlerquote noch der Nachweis, dass die Tests jeden Fehler finden.[S1]

Wählen Sie für Ihre Änderung einen Fehler aus der tatsächlichen Aufgabe. Eine bereits bezahlte Rechnung in der Liste überfälliger Rechnungen ist ein solcher Fehler. Ein Test, der nur das Vorhandensein einer Liste prüft, würde ihn übersehen.

Die funktionierende Rechnung ersetzt keine Codeprüfung.

Lassen Sie eine qualifizierte Entwicklerin oder einen Entwickler prüfen, was geändert wurde und wie es mit der Anwendung zusammenarbeitet. Entspricht die Umsetzung der vereinbarten Regel? Liest oder verändert sie Daten, greift sie in Berechtigungen ein, ergänzt sie eine Abhängigkeit oder ermöglicht sie eine neue Aktion? Davon hängen die zusätzlichen Prüfungen für Integration und Sicherheit ab.

GitHub beschreibt in seiner aktuellen Dokumentation, dass die Prüfung durch Copilot Probleme übersehen, nicht vorhandene Probleme melden und falschen oder unsicheren Code vorschlagen kann. Der Anbieter empfiehlt sorgfältige Prüfung und Tests. Eine weitere KI-Prüfung liefert Hinweise; ihre Zustimmung belegt keine Einsatzreife.[S2]

Bewahren Sie die geprüfte Codeversion, die Eingaben, die tatsächlichen Ergebnisse und offene Befunde zusammen auf. Ändert sich der Code danach, müssen die betroffenen Teile erneut geprüft werden. Unsere Anleitung zur Agenten-Abnahme behandelt die gesonderte Frage, ob ein vollständiger Agent mit dem vorgesehenen Modell, den Daten und Berechtigungen funktioniert.

Die Freigabe gilt für eine konkrete Version.

Die Person, die das fachliche Ergebnis beurteilt, und die Person mit Freigaberecht brauchen eine ausdrückliche Entscheidung. Halten Sie fest, was bestanden wurde, was ungeprüft bleibt und ob das verbleibende Risiko für diesen Einsatz vertretbar ist. Eine fertig programmierte Änderung ist noch keine Produktionsfreigabe.

Vereinbaren Sie, was bei einem Fehler in der vorgesehenen Umgebung geschieht. Prüfen Sie die Fassung, die wiederhergestellt werden soll, und ob Daten oder Abhängigkeiten ebenfalls betroffen wären. Die älteste verfügbare Version ist nicht automatisch ein vertretbarer Rückweg. Unser vorgeschlagenes Prüfprotokoll hält diese Unterschiede sichtbar.

Vor der FreigabeFesthalten
Benötigtes VerhaltenFachlich verantwortliche Person, Beispiele und erwartete Ergebnisse
Technische PrüfungTatsächliche prüfende Person, genaue Version und offene Befunde
Ausgeführte PrüfungenEingaben, Ergebnisse und vorgesehene Umgebung; geplante und ausgeführte Tests unterscheiden
Freigabe und FehlerfallWer diese Version freigeben darf, welche Grenzen gelten und welche Reaktion im Fehlerfall geprüft wurde

Das ist eine konkrete Aufgabe in der hybriden Organisation: Menschen und Agenten teilen sich Arbeit, während die Freigabe ausdrücklich bleibt. Nehmen Sie eine kleine Änderung, die fachlich verantwortliche Person und einen qualifizierten Entwickler zusammen. Legen Sie eine Tabelle der erwarteten Ergebnisse fest und lassen Sie einen relevanten absichtlichen Fehler im Test nachweislich scheitern, bevor Sie über die Freigabe entscheiden.

Tatsächlich ausgeführte Tests unseres Rechencodes mit erfundenen Eingaben. Die eingebauten Fehler sind Testfälle, keine berichteten Produktionsvorfälle. Keine umfassende Sicherheitszusage.

Was fehlt für die Abnahme Ihrer KI-gestützten Änderung?

Bringen Sie eine kleine Softwareaufgabe und die offene Prüfentscheidung mit. Wir besprechen den Ablauf zwischen fachlicher Anforderung, Entwicklung und Freigabe. Dies ist keine Sicherheitszertifizierung.

Meinen Prüfablauf besprechen

Sie beschreiben Ihr Anliegen. Wir melden uns persönlich.

Quellen

[S1]
Codeprüfung am eigenen Rechenbeispiel MING Labs · 8. und 9. November 2026 Belegt: 285 Minuten für ein abgenommenes Ergebnis; vier gezielte Tests bestanden, beide konstruierten Fehler erkannt. Eigene ausgeführte Tests am Code des verlinkten Beispiels. Erfundenes Zahlenmaterial; zwei absichtlich fehlerhafte Fassungen, keine Kundenfälle oder Produktionsvorfälle. Prüfprotokoll privat.
[S2]
Application card: GitHub Copilot Agents GitHub · Abgerufen am 9. November 2026 Belegt: Übersehene Probleme, falsche Warnungen und falsche oder unsichere Vorschläge; sorgfältige Prüfung und Tests bleiben nötig. Anbieterdokumentation zu Grenzen und verantwortlicher Nutzung; keine unabhängige Wirksamkeitsmessung.

Häufige Fragen

Darf dieselbe KI den Code und die Tests schreiben?
Sie kann beides vorbereiten. Code und Tests übernehmen dabei unter Umständen dieselbe falsche Annahme. Legen Sie erwartete Ergebnisse deshalb gesondert aus der fachlichen Regel fest, prüfen Sie die Testbedingungen und testen Sie eine absichtlich falsche Fassung. Ein zweites Modell allein belegt keine unabhängige Prüfung.
Ist der Code nach vier bestandenen Tests sicher?
Nein. Unsere vier Tests prüfen ausgewählte Rechenfälle und ungültige Eingaben. Zugriffsrechte, Abhängigkeiten, vertrauliche Daten, die gesamte Anwendung und alle möglichen Eingaben werden damit nicht geprüft. Der erforderliche Prüfumfang richtet sich danach, was die Änderung beeinflusst.
Was kann ich prüfen, wenn ich den Code nicht lesen kann?
Sie können das benötigte Ergebnis an Beispielen beschreiben, sich die tatsächlichen Resultate zeigen lassen und offene Entscheidungen benennen. Eine qualifizierte Entwicklerin oder ein Entwickler muss weiterhin die Umsetzung und technische Risiken prüfen. Eine KI-Erklärung ersetzt diese Fachkenntnis nicht.
Soll ich bei einem fehlgeschlagenen Test zur alten Version zurückkehren?
Stoppen Sie zunächst die Freigabe und prüfen Sie mit dem Verantwortlichen eine bekannte, vertretbare Version. In der alten Fassung steckt unter Umständen genau der Fehler, den Sie beheben wollen. Wiederhergestellte Dateien belegen noch keinen sicheren Rückweg, besonders nach Änderungen an Daten oder Abhängigkeiten.
Alle Insights