weightsapi.INFERENZKonsole
Navigation
Dify

Dify

Konfigurieren Sie Dify mit dem WeightsAPI OpenAI-kompatiblen Endpunkt.

Bevor Sie sich verbinden#

Der KI-Zugriff erfordert eine Anmeldung, eine bestätigte Aufladung von mindestens USD 100, einen autorisierten API-Schlüssel und ausreichend verfügbares Guthaben für die Anfrage. Jede spätere Aufladung hat ebenfalls ein Minimum von USD 100; kleinere Restguthaben bleiben nutzbar, wenn sie die Anfrage abdecken. Das Guthaben erfordert eine Transaktionsverifizierung. Prüfen Sie den Servicestatus auf Modellverfügbarkeit, bevor Sie Traffic senden. Verwenden Sie Ihren eigenen API-Schlüssel ohne das Bearer-Präfix in Schlüsselfeldern. Die Basis-URL enthält bereits /v1. Diese Konfigurationen wurden anhand der offiziellen Dokumentation geprüft, nicht gegen ein Live-GPU-Deployment getestet.

Konfiguration#

Installieren Sie den offiziellen OpenAI-API-compatible-Anbieter (langgenius/openai_api_compatible), falls nicht vorhanden, und fügen Sie dann das Modell unter den Modellanbieter-Einstellungen des Arbeitsbereichs hinzu. Felder für ein LLM-/Chat-Modell:

Feld Wert
Typ LLM
Modellname Qwen/Qwen3-32B
API-Schlüssel WEIGHTSAPI_API_KEY
API-Basis-URL https://weightsapi.com/v1
Vervollständigungsmodus Chat
API-Typ Chat Completions API (/chat/completions)
Modellkontextgröße Tatsächliches Kontextlimit der Bereitstellung
Obergrenze für maximale Tokens Tatsächliches Ausgabelimit der Bereitstellung
Vision-Unterstützung Nicht unterstützt für dieses reine Textmodell
Funktionsaufruftyp Nicht unterstützt, bis native Tools verifiziert sind

Die exakten zugrunde liegenden Anmeldenamen sind api_key, endpoint_url, mode: chat, api_type: chat_completions, context_size und max_tokens_to_sample. Ein optionaler Modellname für den API-Endpunkt (endpoint_model_name) kann den gesendeten Modellnamen überschreiben; lassen Sie das Feld leer, wenn der Modellname bereits übereinstimmt. Verwenden Sie die Basis-URL einschließlich /v1 für dieses LLM-Rezept; dieses Plugin behandelt Pfade für Nicht-LLM-Typen anders, daher übertragen Sie dieses Rezept nicht ohne Prüfung auf Embeddings.

Quellen: Offizieller Marketplace-Eintrag, offizielles Anbieterfeldschema.

Verbindung überprüfen#

Rufen Sie die Modellliste ab und senden Sie dann eine kurze Nachricht. Eine erfolgreiche Modellliste beweist keine Unterstützung für Tools, Vision oder JSON-Schema. Überprüfen Sie die Funktionen der ausgewählten Bereitstellung, bevor Sie sie aktivieren.