Voordat u verbinding maakt#
AI-toegang vereist aanmelding, één bevestigde opwaardering van ten minste USD 100, een geautoriseerde API-sleutel en voldoende beschikbaar krediet voor de aanvraag. Elke latere opwaardering heeft ook een minimum van USD 100; kleinere resterende saldi blijven bruikbaar wanneer ze de aanvraag dekken. Krediet vereist transactieverificatie. Controleer de servicestatus op modelbeschikbaarheid voordat u verkeer verstuurt. Gebruik uw eigen API-sleutel zonder het Bearer-voorvoegsel in sleutelvelden. De basis-URL bevat al /v1. Deze configuraties zijn gecontroleerd aan de hand van officiële documentatie, niet getest tegen een live GPU-implementatie.
Configuratie#
Configureer het aangepaste endpoint in librechat.yaml; geef de omgevingsvariabelen ervan door aan de LibreChat-server, koppel deze configuratie waar vereist en start LibreChat opnieuw.
endpoints:
custom:
- name: "Managed inference"
apiKey: "${WEIGHTSAPI_API_KEY}"
baseURL: "${https://weightsapi.com/v1}"
models:
default: ["Qwen/Qwen3-32B"]
fetch: false
titleConvo: false
modelDisplayLabel: "Qwen3 32B"
apiKey, baseURL en models.default zijn gedocumenteerde velden voor aangepaste endpoints. fetch: false gebruikt de expliciete modellenlijst. Wanneer provider wordt weggelaten, wordt de OpenAI-compatibele client gebruikt. titleConvo: false voorkomt een extra titelgeneratie-aanroep. Voeg dit samen in het bestaande bestand en behoud de configuratieversie op het hoogste niveau van de geïnstalleerde versie.
Bronnen: Structuur van aangepast endpoint, configuratie-installatie.
Controleer de verbinding#
Haal de modellenlijst op en stuur vervolgens één kort bericht. Een succesvolle modellenlijst bewijst geen ondersteuning voor tools, vision of JSON-schema. Controleer de mogelijkheden van de geselecteerde implementatie voordat u deze inschakelt.