Beginnen Sie bei der Arbeit, die sonst liegen bleibt
Stellen Sie sich ein Projektteam vor, das aus freigegebenen Unterlagen seinen wöchentlichen Statusbericht entwerfen lässt. Ein Kollege prüft den Entwurf vor der Verwendung. Der bisherige Modelldienst ist nicht erreichbar. Nun überlegt das Team, einen zweiten Anbieter einzubinden. Entscheidend ist, ob es damit diese Aufgabe innerhalb der vereinbarten Zeit und mit der nötigen Qualität erledigen kann.
An diesem erfundenen Beispiel unterscheiden wir drei Probleme: Das Modell antwortet nicht, die Anwendung erreicht keines der Modelle oder den Unterlagen fehlt eine freigegebene Angabe. Dafür braucht es jeweils einen passenden Umgang. Eine weitere Modellanbindung löst diese Probleme nicht von selbst.[S1]
Legen Sie zuerst fest, wie lange der Entwurf warten darf und wer ihn bei Bedarf selbst vorbereitet. Für einen wöchentlichen Bericht kann eine wieder aufnehmbare Warteschlange ausreichen; ein zeitkritischer Service braucht möglicherweise einen anderen Ablauf. Soll der zweite Anbieter eine bisher fehlende Fähigkeit ergänzen, benennen Sie die dafür maßgebliche Aufgabe. Unsere Anleitung zur Modellwahl beschreibt diesen Vergleich.
Verfolgen Sie beide Wege durch die gemeinsam genutzten Dienste
In der Grafik liegen die freigegebenen Unterlagen in einer gemeinsamen Ablage. Die Anwendung schickt Anfragen über ein Gateway, das sie an Modell A oder Modell B weiterleitet. Ist nur A nicht erreichbar, kommt B als Ersatz infrage. Fällt das Gateway aus, erreicht diese Anwendung auf diesem Weg keines der beiden Modelle. Auch ein drittes Modell hinter demselben Zugang würde diese Abhängigkeit nicht aufheben.
Microsoft unterscheidet in seiner Architektur-Anleitung zwischen Modellbereitstellungen, Hosting-Instanzen und Regionen. Ein Gateway kann selbst zum gemeinsamen Ausfallpunkt werden. Fortlaufende Gespräche können zudem an einen bestimmten Hintergrunddienst gebunden sein.[S2] Für unseren Entwurf würden wir deshalb prüfen, ob der Ersatz auf das erlaubte Belegpaket und den aktuellen Bearbeitungsstand zugreifen kann. Eine anbieterspezifische Gesprächs- oder Dateireferenz enthält noch keine übertragbare Kopie dieser Inhalte.
Zeichnen Sie den tatsächlichen Weg auf. Dazu gehören Anwendung, Gateway, Netzwerk, Anmeldung, Quellenablage und Modellbetrieb. Markieren Sie, was beide Wege gemeinsam nutzen. Ein zusätzlicher Weg kann eine Abhängigkeit beseitigen und andere erhalten. Benennen Sie daher genau den Ausfall, den er auffangen soll.
Halten Sie auch die eingestellten Verarbeitungsorte fest. AWS unterscheidet geografisch begrenzte und globale Profile für regionsübergreifende Inferenz; sie legen unterschiedliche mögliche Zielregionen fest.[S3] Der Regionsname im Zugangspunkt beschreibt deshalb nicht vollständig, wo Anfragen verarbeitet werden. Das zuständige Team muss prüfen, ob die tatsächliche Ersatzkonfiguration für die Daten zulässig ist, bevor sie getestet wird.
Vergleichen Sie den zusätzlichen Weg mit dem vorhandenen Ersatzablauf
Für den Statusbericht würden wir die folgenden Varianten an derselben zulässigen Wartezeit, demselben Belegpaket und denselben Abnahmekriterien messen. Die Tabelle benennt offene Prüfungen; sie enthält keine erfolgreichen Testergebnisse oder Anbietervorteile.
| Betriebsvariante | Was das Team klären müsste | Was dauerhaft gepflegt werden muss |
|---|---|---|
| Ein Modelldienst mit Warteschlange oder manueller Bearbeitung | Kann das Team die Anfrage wieder aufnehmen und den Entwurf rechtzeitig fertigstellen, ohne den verwendeten Quellenstand zu verlieren? | Sichtbare Warteschlange, benannte Person und ein brauchbarer manueller Ablauf. |
| Ein weiteres geeignetes Modell über dasselbe Gateway | Erfüllt es die Aufgabe, wenn das erste Modell ausfällt? Welche gemeinsamen Störungen legen weiterhin beide Wege still? | Beide Konfigurationen, Weiterleitung, Zugänge und Abnahmeprüfungen. |
| Ein geeigneter Dienst über einen separat erreichbaren Weg | Bleibt dieser Weg beim betrachteten Ausfall erreichbar, mit erlaubten Daten und ausreichendem Bearbeitungsstand? | Beide Anbindungen, Zugangsdaten, Quellenzugriff, Betriebsverantwortung und wiederholte Proben. |
Ein separater Weg kann sinnvoll sein. Sein Pflegeaufwand gehört jedoch in den Vergleich: Änderungen an der Anbindung, Bewertung, Überwachung und die Menschen, die fehlgeschlagene Wechsel bearbeiten. Tokenpreise allein reichen dafür nicht. Anthropic empfiehlt, mit der einfachsten ausreichenden Lösung zu beginnen.[S4] Das unterstützt die Frage nach dem Zweck zusätzlicher Komplexität; es belegt nicht, dass ein Anbieter immer genügt.
Proben Sie einen Ausfall mit einem nachvollziehbaren Ergebnis
Bevor Sie sich auf den Ersatz verlassen, verwenden Sie eine erlaubte Kopie der Aufgabe in einer Testumgebung. Halten Sie Quellenstand, Modellkonfigurationen, Zugriffsregeln, erwartetes Ergebnis und prüfende Person fest. Simulieren Sie dort anschließend eine konkrete Unterbrechung. Nehmen Sie gewöhnliche Fälle mit auf: Ein Weg, der jede Aufgabe an Menschen abgibt, soll nicht allein wegen vermiedener Modellfehler erfolgreich erscheinen.
Für unseren Entwurf schlagen wir die folgenden Prüfungen vor. Das erwartete Verhalten ist eine Prüfvorgabe, kein beobachtetes Ergebnis. Wer den Ablauf abnimmt, sollte Anfrage, tatsächliche Antwort und abschließende Behandlung zusammen beurteilen können.[S1]
| Prüffall | Aufzubewahrender Beleg |
|---|---|
| Modell A antwortet nicht; das gemeinsame Gateway ist erreichbar. | Ob B zulässig war und erreicht wurde, welchen Quellenstand es erhielt, sein Entwurf, die Prüfentscheidung und die tatsächliche Verzögerung. |
| Das gemeinsame Gateway kann die Anfrage nicht empfangen. | Die festgehaltene Unterbrechung und der tatsächlich genutzte Warte- oder Personenweg. B darf über dieses ausgefallene Gateway nicht als verfügbarer Ersatz gelten. |
| Dem Ersatz fehlen die benötigten Quellen oder der Bearbeitungsstand. | Die fehlende Abhängigkeit und das daraus folgende Warten oder die Übergabe. Ein aus Vermutungen ergänzter Entwurf besteht die Prüfung nicht. |
| Die Unterlagen enthalten zwei ungeklärte freigegebene Termine. | Beide Termine bleiben sichtbar; die verantwortliche Person wird um Klärung gebeten. Ein Modellwechsel darf die fehlende Entscheidung nicht erfinden. |
Erfassen Sie nach dem Versuch Kosten, Verzögerung und menschliche Arbeit, einschließlich fehlgeschlagener Anfragen. Prüfen Sie, wie der wartende Auftrag wieder aufgenommen wird, damit er nicht unbemerkt doppelt bearbeitet wird. Darf der Ablauf auch Geschäftssysteme verändern, kann nach einem Timeout offenbleiben, ob eine Aktion ausgeführt wurde. Klären Sie dieses Ergebnis vor Wiederholung oder Wechsel. Unser Beispiel erstellt lediglich einen Entwurf; keines der Modelle darf ihn versenden.
Belege und Grenzen
- Ablauf, Abhängigkeiten und Prüffälle sind erfunden. Wir haben weder die Modelle aufgerufen noch den beschriebenen Ausfallversuch durchgeführt.
- Die Vorlage ist eine vorgeschlagene Methode. Sie belegt weder Verfügbarkeit, Wiederanlaufzeit oder Kostenvorteile noch ein Anbieterranking oder rechtliche Konformität.
- Eine bestandene Probe würde nur die geprüfte Konfiguration und den betrachteten Ausfall abdecken. Änderungen an Modellen, Zugängen oder gemeinsam genutzten Diensten brauchen eine eigene Prüfung.
Wählen Sie eine Aufgabe und zeichnen Sie ihren heutigen Weg mit der Person auf, die den Betrieb betreut. Markieren Sie die Unterbrechung, die der zweite Anbieter auffangen soll. Wenn noch unklar ist, wie die Arbeit dann fertig wird, ist der nächste sinnvolle Schritt, genau diesen Weg festzulegen und zu proben.
