weightsapi.INFERENZAConsole
Navigazione
Casi d'uso

Casi d'uso che puoi valutare

Scenari pratici per assistenti conversazionali, flussi di lavoro con codice e strumenti e domande su documenti, con input chiari e controlli di qualità.

In sintesi

Trasforma un'attività pratica in un flusso di lavoro verificabile prima di scegliere un modello o spostare il traffico.

Inizia con un risultato verificabile

Scegli un'attività ripetibile e raccogli un piccolo insieme di input rappresentativi, incluse richieste ambigue e informazioni mancanti. Definisci chi revisiona l'output e cosa rende accettabile una risposta.

Usa questi scenari per definire i tuoi criteri di accettazione. Leggi come funziona, controlla le FAQ e riesamina la gestione dei dati prima di introdurre materiale sensibile. Controlla lo stato del servizio prima di eseguire un carico di lavoro.

L'accesso all'AI richiede l'accesso, una ricarica confermata di almeno USD 100, una chiave API autorizzata e credito disponibile sufficiente per la richiesta. Ogni ricarica successiva ha anch'essa un minimo di USD 100; i saldi residui più piccoli restano utilizzabili quando coprono la richiesta. Il credito richiede la verifica della transazione. Controlla lo stato del servizio per la disponibilità dei modelli prima di inviare traffico.

Prepara risposte da una breve conversazione

Per un team di supporto o un help desk interno, fornisci fatti approvati, la conversazione recente e uno stile di scrittura chiaro; il risultato utile è una risposta revisionabile.

Se un workshop elenca orari di raccolta dal martedì al venerdì e un cliente chiede della domenica, la risposta dovrebbe spiegare che la domenica non è tra gli orari forniti e raccomandare di confermare la disponibilità. Non dovrebbe promettere un appuntamento.

Controllo qualità: verifica ogni affermazione fattuale, preserva il contesto rilevante della conversazione e segnala le informazioni mancanti. Mantieni l'invio o la prenotazione dietro un tuo passaggio di revisione. Inizia con la ricetta chatbot e la guida Open WebUI, poi convalida il deployment selezionato prima dell'uso.

Revisiona il codice e limita le azioni degli strumenti

Per un assistente di inventario, fornisci il codice, l'attività e le definizioni degli strumenti consentiti. Chiedi il livello di scorta dello SKU keyboard e controlla come l'applicazione gestisce uno SKU mancante.

Comportamento atteso: proporre una chiamata get_stock consentita con argomenti validati, usare i dati restituiti nella risposta e spiegare il controllo degli input mancanti. La tua applicazione decide se una chiamata viene eseguita; richiedi controlli dei permessi e revisione esplicita prima di modifiche ai file, comandi o azioni esterne.

Controllo qualità: rifiuta strumenti sconosciuti, argomenti inattesi e azioni non autorizzate, e testa input mancanti o malformati. Segui la ricetta per strumenti limitati e la configurazione Cline; verifica le capacità del deployment prima di abilitare gli strumenti.

Rispondi a domande da documenti che controlli

Per un assistente di conoscenza interno, la tua applicazione fornisce la collezione di documenti e il recuperatore, poi passa estratti selezionati con ID sorgente stabili al modello. WeightsAPI attualmente non fornisce embedding; la ricetta RAG usa un piccolo esempio di classificazione lessicale.

Se la sorgente S1 richiede l'approvazione del manager e la sorgente S2 dice che le richieste urgenti seguono lo stesso processo, una risposta sull'accesso urgente dovrebbe citare entrambe le sorgenti e preservare il requisito di approvazione. Non dovrebbe inventare una scadenza per l'approvazione.

Controllo qualità: conferma che gli estratti rilevanti siano stati recuperati, che ogni citazione supporti la sua affermazione, e che le prove mancanti producano una limitazione esplicita. Applica i permessi dei documenti nel tuo livello di recupero e testa domande a cui la collezione non può rispondere.

Confronta qualità e costi prima di spostare il traffico

Usa un deployment disponibile per confrontare modelli candidati con gli stessi input e impostazioni comparabili. Valuta l'accuratezza fattuale, il rispetto delle istruzioni, le citazioni e gli argomenti validi degli strumenti; registra i token di input e output insieme al tempo al primo token e al tempo di completamento.

Usa l'attuale tabella dei prezzi con l'utilizzo effettivo, incluso il contesto ripetuto e i tentativi. Imposta budget per le chiavi, limita i tentativi e mantieni un percorso di rollback. Sposta il traffico solo dopo che i tuoi criteri di accettazione sono superati.

Hai bisogno di un passaggio successivo?

Trova la guida pertinente o prepara i dettagli del tuo problema.

Apri supporto