...
Studierende können Zugang zu LiteLLM per Email an den IT Support (it-support@fh-muenster.de) beantragen.
Verfügbare Modelle und Preise
Alle über LiteLLM verfügbaren Modelle (inkl. Kosten) sind hier abrufbar: https://litellm-models.fh-muenster.de/
Videomodelle werden nicht über Token sondern über Videolänge abgerechnet. Hier geht's zu den Preisen für Google's Veo.
Für Dozenten: Selbstverwaltung von LiteLLM Zugriffen per Gruppe im myFH-Portal
Sie können in der hochschulweiten Gruppenverwaltung eine Gruppe einrichten lassen. Darüber können die Gruppeninhaberinnen und Gruppeninhaber selbst festlegen, wer LiteLLM nutzen darf, und Personen hinzufügen oder entfernen.
Mitglieder der Gruppe sehen dann im vRA Self-Service-Portal die LiteLLM-Kachel. Dort können sie sich selbst einen API-Key erstellen.
Wie Sie Gruppen verwalten, lesen Sie hier: Meine Gruppen
Mehr Budget für Lehrveranstaltungen und Arbeitsgruppen
Für Forschungs- und Arbeitsgruppen gibt es die Möglichekeit LiteLLM-Keys mit mehr Budget zu erstellen. Wenn das Standardbudget für einen Anwendungsfall nicht ausreichen sollte, können Sie mit der DVZ (it-support@fh-muenster.de) eine Kostenübernahme vereinbaren. Sie stellen den gewünschten Betrag bereit, und wir laden damit das Budget eines LiteLLM-Keys auf.
Newsletter für Ankündigungen und Änderungen
Abonnieren Sie die FHAI-Mailingliste, um über Ankündigungen und Änderungen rund um das KI-Angebot an der FH Münster informiert zu werden.
...
01. Anfrage eines LiteLLM Schlüssels
| Anker | ||||
|---|---|---|---|---|
|
...
| Codeblock | ||
|---|---|---|
| ||
{
"env": {
"ANTHROPIC_AUTH_TOKEN": "IHR-LITELLM-KEY",
"ANTHROPIC_BASE_URL": "https://litellm.fh-muenster.de",
"ANTHROPIC_DEFAULT_SONNET_MODEL": "vertex/claude-sonnet-5-5",
"ANTHROPIC_DEFAULT_HAIKU_MODEL": "vertex/claude-haiku-4-5",
"ANTHROPIC_DEFAULT_OPUS_MODEL": "vertex/claude-opus-5-5"
}
} |
04e) OpenCode mit LiteLLM
...
| Stufe | Typische Anfrage | Modell |
|---|---|---|
| SIMPLE | Kurze Fragen, Zusammenfassen, Klassifizieren | fhms/Qwen3.5-27B |
| MEDIUM | Normale Alltagsaufgaben | fhms/qwen3.6gemma-35b4-A3b31b-low-reasoningit |
| COMPLEX | Code, mehrstufige Anweisungen | fhms/qwen3Qwen3.68-35b-A3b27B |
| REASONING | Logik, Mathematik, Planung |
|
Besonders praktisch ist der Router überall dort, wo Sie sich nicht auf ein bestimmtes Modell festlegen wollen: Ihr Skript oder Agent verweist nur noch auf den Router – welches Modell tatsächlich antwortet, entscheidet sich zentral in dessen Konfiguration. Kommt ein neues Modell hinzu oder wird ein altes abgelöst läuft ihr Code einfach weiter ohne, dass Sie das Modell manuell ändern müssen.
...