weightsapi.INFERENZKonsole
Navigation
Anwendungsfälle

Anwendungsfälle, die Sie bewerten können

Praktische Szenarien für Konversationsassistenten, Code- und Tool-Workflows sowie Dokumentfragen, mit klaren Eingaben und Qualitätsprüfungen.

Auf einen Blick

Machen Sie aus einer praktischen Aufgabe einen testbaren Workflow, bevor Sie ein Modell wählen oder Traffic verlagern.

Beginnen Sie mit einem überprüfbaren Ergebnis

Wählen Sie eine wiederholbare Aufgabe und sammeln Sie eine kleine Menge repräsentativer Eingaben, einschließlich mehrdeutiger Anfragen und fehlender Informationen. Definieren Sie, wer die Ausgabe überprüft und was eine Antwort akzeptabel macht.

Verwenden Sie diese Szenarien, um Ihre eigenen Akzeptanzkriterien zu definieren. Lesen Sie Funktionsweise, prüfen Sie die FAQ und überprüfen Sie Datenverarbeitung, bevor Sie sensibles Material einführen. Prüfen Sie den Servicestatus, bevor Sie eine Arbeitslast ausführen.

Der KI-Zugriff erfordert Anmeldung, eine bestätigte Aufladung von mindestens USD 100, einen autorisierten API-Schlüssel und ausreichend verfügbares Guthaben für die Anfrage. Jede weitere Aufladung hat ebenfalls einen Mindestbetrag von USD 100; kleinere Restguthaben bleiben nutzbar, wenn sie die Anfrage abdecken. Guthaben erfordert eine Transaktionsverifizierung. Prüfen Sie den Servicestatus für die Modellverfügbarkeit, bevor Sie Datenverkehr senden.

Antworten aus einem kurzen Gespräch entwerfen

Für ein Support-Team oder einen internen Helpdesk stellen Sie genehmigte Fakten, das aktuelle Gespräch und einen klaren Schreibstil bereit; das nützliche Ergebnis ist eine überprüfbare Antwort.

Wenn ein Workshop Sammelzeiten von Dienstag bis Freitag angibt und ein Kunde nach Sonntag fragt, sollte die Antwort erklären, dass Sonntag nicht zu den angegebenen Zeiten gehört, und empfehlen, die Verfügbarkeit zu bestätigen. Sie sollte keinen Termin versprechen.

Qualitätsprüfung: Verifizieren Sie jede Faktenbehauptung, bewahren Sie relevanten Gesprächskontext und kennzeichnen Sie fehlende Informationen. Halten Sie das Senden oder Buchen hinter Ihrem eigenen Überprüfungsschritt. Beginnen Sie mit dem Chatbot-Rezept und dem Open WebUI-Leitfaden und validieren Sie dann die ausgewählte Bereitstellung vor der Nutzung.

Code überprüfen und Tool-Aktionen einschränken

Für einen Bestandshelfer geben Sie den relevanten Code, die Aufgabe und die erlaubten Tool-Definitionen an. Fragen Sie nach dem Lagerbestand der SKU keyboard und prüfen Sie, wie die Anwendung eine fehlende SKU behandelt.

Erwartetes Verhalten: Schlagen Sie einen erlaubten get_stock-Aufruf mit validierten Argumenten vor, verwenden Sie die zurückgegebenen Daten in der Antwort und erklären Sie die Prüfung auf fehlende Eingaben. Ihre Anwendung entscheidet, ob ein Aufruf ausgeführt wird; verlangen Sie Berechtigungsprüfungen und explizite Überprüfung vor Dateibearbeitungen, Befehlen oder externen Aktionen.

Qualitätsprüfung: Lehnen Sie unbekannte Tools, unerwartete Argumente und nicht autorisierte Aktionen ab und testen Sie fehlende oder fehlerhafte Eingaben. Folgen Sie dem Rezept für eingeschränkte Tools und der Cline-Konfiguration; überprüfen Sie die Bereitstellungsfähigkeiten, bevor Sie Tools aktivieren.

Fragen aus Dokumenten beantworten, die Sie kontrollieren

Für einen internen Wissensassistenten liefert Ihre Anwendung die Dokumentensammlung und den Retriever und übergibt dann ausgewählte Auszüge mit stabilen Quell-IDs an das Modell. WeightsAPI bietet derzeit keine Embeddings an; das RAG-Rezept verwendet ein einfaches lexikalisches Ranking-Beispiel.

Wenn Quelle S1 eine Genehmigung durch den Vorgesetzten erfordert und Quelle S2 besagt, dass dringende Anfragen demselben Prozess folgen, sollte eine Antwort über dringenden Zugriff beide Quellen zitieren und die Genehmigungsanforderung beibehalten. Sie sollte keine Genehmigungsfrist erfinden.

Qualitätsprüfung: Bestätigen Sie, dass die relevanten Auszüge abgerufen wurden, jede Zitation ihre Behauptung stützt und fehlende Beweise zu einer expliziten Einschränkung führen. Setzen Sie Dokumentberechtigungen in Ihrer Abrufschicht durch und testen Sie Fragen, die die Sammlung nicht beantworten kann.

Qualität und Kosten vergleichen, bevor Sie den Datenverkehr umstellen

Verwenden Sie eine verfügbare Bereitstellung, um Kandidatenmodelle mit denselben Eingaben und vergleichbaren Einstellungen zu vergleichen. Bewerten Sie faktische Genauigkeit, Befolgen von Anweisungen, Zitationen und gültige Tool-Argumente; erfassen Sie Eingabe- und Ausgabetokens sowie Zeit bis zum ersten Token und Abschlusszeit.

Verwenden Sie die aktuelle Preistabelle mit tatsächlicher Nutzung, einschließlich wiederholtem Kontext und Wiederholungen. Setzen Sie Schlüsselbudgets, begrenzen Sie Wiederholungen und behalten Sie einen Rollback-Pfad bei. Stellen Sie den Datenverkehr erst um, nachdem Ihre eigenen Akzeptanzkriterien bestanden wurden.

Brauchen Sie einen nächsten Schritt?

Finden Sie den passenden Leitfaden oder bereiten Sie die Details Ihres Problems vor.

Support öffnen