Резидентност на данните за LLM API

Всеки модел в каталога е посочен с региона, в който се изпълнява инференцията му, и съхранението, което неговият endpoint записва, прочетени от редовете за endpoint, по които самият рутер филтрира, а не от маркетингова страница. Модел без активен endpoint е посочен по-долу само като каталожен запис, защото това е неговото състояние.

Това внедряване няма продукционен бекенд за инференция. Всяка заявка се обслужва от вградения mock бекенд в регион dev-mock, така че нищо не се обработва в регионите, които записват редовете за endpoint. Регионът за инференция е показан по-долу като dev-mock поради тази причина и не се твърди клас на хостване за модел, който няма среда за изпълнение тук.

Тази страница е документация, не сертификация. Тя записва какво всеки endpoint заявява за своя регион, своето съхранение и своя клас на хостване, и посочва източника. Тя не е правно мнение, не е оценка на съответствието и не е гаранция за който и да е доставчик.

Само в каталога — още няма endpoint

Тези модели са документирани в каталога, но нямат endpoint, който може да отговори на заявка, затова няма регион и няма съхранение, които да се докладват за тях. Ако поискате такъв, връща се грешка, вместо да се маршрутизира другаде.

• Aya 23 8B — Cohere
• Aya Expanse 8B — Cohere
• Codestral 25.08 — Mistral AI
• Command A+ (05-2026) — Cohere
• Command R (08-2024) — Cohere
• DeepSeek-R1 — DeepSeek
• DeepSeek-R1-Distill-Qwen-32B — DeepSeek
• DeepSeek-V3.2 — DeepSeek
• DeepSeek-V4-Flash (0731) — DeepSeek
• EmbeddingGemma 300M — Google DeepMind
• GLM-4.7-Flash — Z.ai (Zhipu AI)
• GLM-5.3 — Z.ai (Zhipu AI)
• GLM-OCR — Z.ai (Zhipu AI)
• Gemma 4 26B A4B IT — Google DeepMind
• Gemma 4 31B IT — Google DeepMind
• Gemma 4 E4B IT — Google DeepMind
• LLMEU V2 (announced) — LLM EU
• Llama 3.1 8B Instruct — Meta
• Llama 3.3 70B Instruct — Meta
• Llama 4 Maverick 17B-128E Instruct — Meta
• Llama 4 Scout 17B-16E Instruct — Meta
• Llama Nemotron Rerank 1B v2 — NVIDIA
• Magistral Small 1.2 — Mistral AI
• Ministral 3 8B — Mistral AI
• Mistral 7B Instruct v0.3 — Mistral AI
• Mistral Large 3 (675B) — Mistral AI
• Mistral NeMo 12B Instruct — Mistral AI
• NVIDIA Nemotron 3 Nano 4B — NVIDIA
• NVIDIA Nemotron 3 Super 120B-A12B — NVIDIA
• OpenEuroLLM final models (planned) — OpenEuroLLM
• OpenEuroLLM initial model release (planned) — OpenEuroLLM
• Pharia-1-Embedding-4608-control — Aleph Alpha
• Pharia-1-LLM-7B-control-aligned — Aleph Alpha
• Phi-4 — Microsoft
• Phi-4-multimodal-instruct — Microsoft
• Pixtral 12B — Mistral AI
• Qwen3-8B — Alibaba Qwen
• Qwen3-Coder-30B-A3B-Instruct — Alibaba Qwen
• Qwen3-VL-8B-Instruct — Alibaba Qwen
• Qwen3.8-27B — Alibaba Qwen
• Teuken 7B Instruct v0.6 — OpenGPT-X (Teuken)
• Voxtral Small 24B — Mistral AI
• Whisper large-v3-turbo — OpenAI
• gpt-oss-120b — OpenAI
• gpt-oss-20b — OpenAI
• gte-multilingual-reranker-base — Alibaba Qwen
• multilingual-e5-large — Microsoft

Вижте също: Хостинг · Документация · Проверени