weightsapi.INFERÊNCIAConsole
Navegação
Casos de uso

Casos de uso que você pode avaliar

Cenários práticos para assistentes conversacionais, fluxos de trabalho de código e ferramentas e perguntas sobre documentos, com entradas claras e verificações de qualidade.

Visão geral

Transforme uma tarefa prática em um fluxo de trabalho testável antes de escolher um modelo ou mover tráfego.

Comece com um resultado que você possa verificar

Escolha uma tarefa repetível e colete um pequeno conjunto de entradas representativas, incluindo solicitações ambíguas e informações ausentes. Defina quem revisa a saída e o que torna uma resposta aceitável.

Use esses cenários para definir seus próprios critérios de aceitação. Leia como funciona, verifique o FAQ e revise tratamento de dados antes de introduzir material sensível. Verifique o status do serviço antes de executar uma carga de trabalho.

O acesso à IA requer login, uma recarga confirmada de pelo menos USD 100, uma chave de API autorizada e crédito disponível suficiente para a solicitação. Cada recarga posterior também tem um mínimo de USD 100; saldos restantes menores permanecem utilizáveis quando cobrem a solicitação. O crédito requer verificação da transação. Verifique o status do serviço para disponibilidade de modelos antes de enviar tráfego.

Rascunhe respostas a partir de uma conversa curta

Para uma equipe de suporte ou central de ajuda interna, forneça fatos aprovados, a conversa recente e um estilo de escrita claro; o resultado útil é uma resposta revisável.

Se um workshop lista horários de coleta de terça a sexta e um cliente pergunta sobre domingo, a resposta deve explicar que domingo não está entre os horários fornecidos e recomendar confirmar a disponibilidade. Não deve prometer um agendamento.

Verificação de qualidade: verifique cada afirmação factual, preserve o contexto relevante da conversa e sinalize informações ausentes. Mantenha o envio ou reserva atrás de sua própria etapa de revisão. Comece com a receita de chatbot e o guia do Open WebUI, depois valide a implantação selecionada antes de usar.

Revise o código e restrinja ações de ferramentas

Para um auxiliar de inventário, forneça o código relevante, a tarefa e as definições de ferramentas permitidas. Pergunte o nível de estoque do SKU keyboard e verifique como a aplicação trata um SKU ausente.

Comportamento esperado: proponha uma chamada get_stock permitida com argumentos validados, use seus dados retornados na resposta e explique a verificação de entrada ausente. Sua aplicação decide se uma chamada é executada; exija verificações de permissão e revisão explícita antes de edições de arquivo, comandos ou ações externas.

Verificação de qualidade: rejeite ferramentas desconhecidas, argumentos inesperados e ações não autorizadas, e teste entradas ausentes ou malformadas. Siga a receita de ferramenta limitada e a configuração do Cline; verifique os recursos de implantação antes de habilitar ferramentas.

Responda perguntas a partir de documentos que você controla

Para um assistente de conhecimento interno, sua aplicação fornece a coleção de documentos e o recuperador, depois passa trechos selecionados com IDs de fonte estáveis ao modelo. Atualmente, a WeightsAPI não fornece embeddings; a receita RAG usa um pequeno exemplo de classificação lexical.

Se a fonte S1 exige aprovação do gerente e a fonte S2 diz que solicitações urgentes seguem o mesmo processo, uma resposta sobre acesso urgente deve citar ambas as fontes e preservar o requisito de aprovação. Não deve inventar um prazo de aprovação.

Verificação de qualidade: confirme que os trechos relevantes foram recuperados, cada citação apoia sua afirmação e evidências ausentes produzem uma limitação explícita. Aplique permissões de documentos em sua camada de recuperação e teste perguntas que a coleção não pode responder.

Compare qualidade e custo antes de trocar o tráfego

Use uma implantação disponível para comparar modelos candidatos com as mesmas entradas e configurações comparáveis. Pontue precisão factual, seguimento de instruções, citações e argumentos válidos de ferramentas; registre tokens de entrada e saída juntamente com o tempo até o primeiro token e o tempo de conclusão.

Use a tabela de preços atual com o uso real, incluindo contexto repetido e novas tentativas. Defina orçamentos de chave, limite novas tentativas e mantenha um caminho de reversão. Mova o tráfego somente após seus próprios critérios de aceitação passarem.

Precisa de um próximo passo?

Encontre o guia relevante ou prepare os detalhes do seu problema.

Abrir suporte