Sarcini
Cost redus
Clasificare și extragere de volum mare, unde modelul cel mai ieftin și adecvat câștigă.
Routerul mapează o sarcină la modele candidate, apoi aplică politica dumneavoastră: mai întâi regiunea, apoi prețul, apoi modelul cu rezultatul documentat mai bun.
Preferați cel mai mic model ale cărui scoruri publicate depășesc pragul de calitate, și o fereastră de context mai scurtă atunci când sarcina nu necesită o intrare lungă; prețul este termenul decisiv.
{"model":"llmeu-auto","messages":[{"role":"user","content":"…"}],"llmeu":{"task":"cheap"}}
Recomandat
No first-party endpoint yet
No first-party endpoint serves this task yet. The models listed below are catalogued for reference and run under their own provider’s terms.