...
01. Anfrage eines LiteLLM Schlüssels
| Anker | ||||
|---|---|---|---|---|
|
...
Statt ein festes KI‑Modell in Ihr Skript oder Ihren Agenten einzutragen, geben Sie einfach default_router als Modellnamen an. Der Router prüft jede Anfrage kurz, schätzt ihre Komplexität ein und wählt automatisch das passende Modell. Aktuell sind folgende Modelle konfiguriert:
| Stufe | Typische Anfrage | Modell |
|---|---|---|
| SIMPLE | Kurze Fragen, Zusammenfassen, Klassifizieren | fhms/Qwen3.5-27B |
| MEDIUM | Normale Alltagsaufgaben | fhms/qwen3.6-35b-A3b-low-reasoning |
| COMPLEX | Code, mehrstufige Anweisungen | fhms/qwen3.6-35b-A3b |
| REASONING | Logik, Mathematik, Planung |
|
Besonders praktisch ist der Router überall dort, wo Sie sich nicht auf ein bestimmtes Modell festlegen wollen: Ihr Skript oder Agent verweist nur noch auf den Router – welches Modell tatsächlich antwortet, entscheidet sich zentral in dessen Konfiguration. Kommt ein neues Modell hinzu oder wird ein altes abgelöst läuft ihr Code einfach weiter ohne, dass Sie das Modell manuell ändern müssen.
...