Andmete asukoht LLM API-de jaoks
Iga kataloogis olev mudel koos regiooniga, kus selle järeldamine töötab, ja säilitusajaga, mida selle lõpp-punkt kajastab, loetud lõpp-punkti ridadest, mille järgi ruuter ise filtreerib, mitte turunduslehelt. Mudel, millel pole aktiivset lõpp-punkti, on allpool loetletud ainult kataloogina, sest see ongi see, mis see on.
Selles juurutuses pole tootmise järeldamise taustarakendust. Igale taotlusele vastab sisseehitatud mock-taustarakendus regioonis dev-mock, seega midagi ei töödelda regioonides, mida lõpp-punkti read kajastavad. Järeldamise regioon on allpool näidatud dev-mockina sel põhjusel ja ühelegi mudelile, millel siin käituskeskkonda pole, ei omistata majutusklassi.
See leht on dokumentatsioon, mitte sertifikaat. See kajastab, mida iga lõpp-punkt ütleb oma regiooni, säilitusaja ja majutusklassi kohta, ja nimetab allika. See ei ole õiguslik arvamus, mitte vastavushindamine ega garantii ühegi pakkuja kohta.
| Mudel | Pakkuja | Järeldamise regioon | Säilitamine | Majutusklass | Litsents |
|---|---|---|---|---|---|
| Devstral Small 2 (24B) | Mistral AI | dev-mock | zero | käituskeskkonda siin pole | apache-2.0 |
| EuroLLM-1.7B-Instruct | EuroLLM (utter-project) | dev-mock | zero | käituskeskkonda siin pole | apache-2.0 |
| EuroLLM-22B-Instruct (2512) | EuroLLM (utter-project) | dev-mock | zero | käituskeskkonda siin pole | apache-2.0 |
| EuroLLM-9B-Instruct (2512) | EuroLLM (utter-project) | dev-mock | zero | käituskeskkonda siin pole | apache-2.0 |
| Mistral Small 4 (119B-A6B) | Mistral AI | dev-mock | zero | käituskeskkonda siin pole | apache-2.0 |
| Whisper large-v3 | OpenAI | dev-mock | zero | käituskeskkonda siin pole | apache-2.0 |
Ainult kataloog — lõpp-punkti veel pole
Need mudelid on kataloogis dokumenteeritud, kuid neil pole lõpp-punkti, mis saaks taotlusele vastata, seega nende kohta pole regiooni ega säilitusaega teatada. Nende küsimine tagastab vea, mitte ei suuna kuhugi mujale.
- Aya 23 8B — Cohere
- Aya Expanse 8B — Cohere
- Codestral 25.08 — Mistral AI
- Command A+ (05-2026) — Cohere
- Command R (08-2024) — Cohere
- DeepSeek-R1 — DeepSeek
- DeepSeek-R1-Distill-Qwen-32B — DeepSeek
- DeepSeek-V3.2 — DeepSeek
- DeepSeek-V4-Flash (0731) — DeepSeek
- EmbeddingGemma 300M — Google DeepMind
- GLM-4.7-Flash — Z.ai (Zhipu AI)
- GLM-5.3 — Z.ai (Zhipu AI)
- GLM-OCR — Z.ai (Zhipu AI)
- Gemma 4 26B A4B IT — Google DeepMind
- Gemma 4 31B IT — Google DeepMind
- Gemma 4 E4B IT — Google DeepMind
- LLMEU V2 (announced) — LLM EU
- Llama 3.1 8B Instruct — Meta
- Llama 3.3 70B Instruct — Meta
- Llama 4 Maverick 17B-128E Instruct — Meta
- Llama 4 Scout 17B-16E Instruct — Meta
- Llama Nemotron Rerank 1B v2 — NVIDIA
- Magistral Small 1.2 — Mistral AI
- Ministral 3 8B — Mistral AI
- Mistral 7B Instruct v0.3 — Mistral AI
- Mistral Large 3 (675B) — Mistral AI
- Mistral NeMo 12B Instruct — Mistral AI
- NVIDIA Nemotron 3 Nano 4B — NVIDIA
- NVIDIA Nemotron 3 Super 120B-A12B — NVIDIA
- OpenEuroLLM final models (planned) — OpenEuroLLM
- OpenEuroLLM initial model release (planned) — OpenEuroLLM
- Pharia-1-Embedding-4608-control — Aleph Alpha
- Pharia-1-LLM-7B-control-aligned — Aleph Alpha
- Phi-4 — Microsoft
- Phi-4-multimodal-instruct — Microsoft
- Pixtral 12B — Mistral AI
- Qwen3-8B — Alibaba Qwen
- Qwen3-Coder-30B-A3B-Instruct — Alibaba Qwen
- Qwen3-VL-8B-Instruct — Alibaba Qwen
- Qwen3.8-27B — Alibaba Qwen
- Teuken 7B Instruct v0.6 — OpenGPT-X (Teuken)
- Voxtral Small 24B — Mistral AI
- Whisper large-v3-turbo — OpenAI
- gpt-oss-120b — OpenAI
- gpt-oss-20b — OpenAI
- gte-multilingual-reranker-base — Alibaba Qwen
- multilingual-e5-large — Microsoft
Vaata ka: Majutus · Dokumendid · Dokumenteeritud