...
Ein gültiger API-Key ist die Voraussetzung, um Anfragen an den LiteLLM-Dienst zu stellen.
Verfügbare Modelle und Preise
Alle über LiteLLM Verfügbaren Modelle (inkl. Kosten) sind hier abrufbar: https://litellm-models.fh-muenster.de/
01. Anfrage eines LiteLLM Schlüssels
...
- Navigieren Sie zu https://litellm.fh-muenster.de/
- In der Swagger UI können Sie die möglichen Endpunkte einsehen und Details zu der jeweiligen Nutzung einsehen.
- Wenn Sie gewisse Endpunkte testen möchten, können Sie sich unter "Authorize" mit ihrem LiteLLM Key authorisieren. Sie sind als Nutzer nicht für alle Endpunkte authorisiert. Im Folgenden zeige ich Ihnen welche für Sie von Interesse sein könnten.
03a. Liste aller über LiteLLM verfügbaren Modelle
- Wenn Sie sich oben Authentifiziert haben, können Sie unter "/models" den "Try it out" Knopf anklicken.
- Passen Sie ggf. noch Paramter an. Falls Sie einfach alle Modelle sehen möchten können Sie diese ignorieren und direkt auf "Execute" klicken
- Sie sehen anschließend den curl API-Call und die response.
| Codeblock |
|---|
curl https://litellm.fh-muenster.de/v1/models -H "Authorization: Bearer sk-..." |
- Alternativ können Sie diesen API Call nutzen. Ersetzen Sie "sk-.
- . ." mit ihrem persönlichen LiteLLM-Key
...
| title | Kosten |
|---|
...
03b) Chat completion Prompts
...