...
01. Anfrage eines LiteLLM Schlüssels
01. Anfrage eines LiteLLM Schlüssels
| Anker | ||||
|---|---|---|---|---|
|
...
Das Deployment läuft jetzt automatisch. Sie erhalten nach wenigen Sekunden eine Email mit dem generierten Schlüssel. Diesen können Sie jetzt, solange Sie sich im Netz der FH Münster befinden, verwenden. Geben Sie diesen Schlüssel nicht an Andere weiter.
02. Day 2 Actions
| Anker | ||||
|---|---|---|---|---|
|
02a. Budgetabfrage
Um Ihre aktuellen Budgetinformationen abzufragen (Maximalbudget und bisheriger Verbrauch) können Sie eine Funktion im vRA benutzen. Aktuell bekommt jeder neue Nutzer ein Budget von 30 USD.
...
Ihr Antrag wird dann automatisch an die DVZ geschickt. Sobald der Antrag genehmigt wird, wird die Budgeterweiterung automatisch ausgeführt und Sie bekommen eine Benachrichtigung per Email.
03. API-Informationen
...
| Anker | ||||
|---|---|---|---|---|
|
- Navigieren Sie zu https://litellm.fh-muenster.de/
- In der Swagger UI können Sie die möglichen Endpunkte einsehen und Details zu der jeweiligen Nutzung einsehen.
- Wenn Sie gewisse Endpunkte testen möchten, können Sie sich unter "Authorize" mit ihrem LiteLLM Key authorisieren. Sie sind als Nutzer nicht für alle Endpunkte authorisiert. Im Folgenden zeige ich Ihnen welche für Sie von Interesse sein könnten.
...
- Prompts an die verschiedenen LLM Modelle machen Sie an den Endpunkt: /v1/chat/completions
Beispiele
04. Beispiele
| Anker | ||||
|---|---|---|---|---|
|
04a) Chat-Modelle
Hier ein beispielhafter API Call:
| Codeblock |
|---|
curl https://litellm.fh-muenster.de/v1/chat/completions \
-H "Authorization: Bearer sk-..." \
-H "Content-Type: application/json" \
-d '{ "model": "azure/gpt-5", "messages": [ {"role": "user", "content": "Was ist der Sinn des Lebens?"} ] }' |
04b) Audio-Transkription
Beispiel für Audio-Transkriptionsmodelle:
| Codeblock |
|---|
curl --location 'https://litellm.fh-muenster.de/v1/audio/transcriptions' --header 'Authorization: Bearer sk-...' --form 'file=@"/home/FHID/filename.mp3"' --form 'model="NOT-EU-azure/gpt-4o-transcribe"' |
04c) Video-Modelle
Videoerstellung starten:
| Codeblock |
|---|
curl --location 'https://litellm.fh-muenster.de/v1/videos' -H 'Content-Type: application/json' -H 'Authorization: Bearer sk-...' -d '{"model": "NOT-EU-vertex/veo-3.1-generate-preview", "prompt": "A beautiful sunset over the ocean"}' |
...