Open-weight models you can self-host

Models whose weights are downloadable, so they can be run outside LLM EU as well. The licence on each card decides whether commercial serving is permitted.

287 models · Open in the catalogue filter

• Aya 23 8B — Cohere · 8.03B · 8K · cc-by-nc-4.0
• Aya Expanse 8B — Cohere · 8.03B · 8K · cc-by-nc-4.0
• Blip2 Flan T5 Xl — Salesforce · 3.9B · mit
• Blip2 Opt 2.7B — Salesforce · 3.7B · mit
• Bloom — BigScience (BLOOM) · 176.2B · bigscience-bloom-rail-1.0
• Bloom 1b1 — BigScience (BLOOM) · 1.1B · bigscience-bloom-rail-1.0
• Bloom 3B — BigScience (BLOOM) · 3B · bigscience-bloom-rail-1.0
• Bloom 560M — BigScience (BLOOM) · 0.6B · bigscience-bloom-rail-1.0
• Bloomz 560M — BigScience (BLOOM) · 0.6B · bigscience-bloom-rail-1.0
• Command A+ (05-2026) — Cohere · 218.75B · 128K · apache-2.0
• Command R (08-2024) — Cohere · 32.3B · 128K · cc-by-nc-4.0
• Deepseek Coder 7B Instruct V1.5 — DeepSeek · 6.9B · other
• DeepSeek Coder V2 Lite Instruct — DeepSeek · 15.7B · other
• DeepSeek OCR — DeepSeek · 3.3B · mit
• DeepSeek OCR 2 — DeepSeek · 3.4B · apache-2.0
• DeepSeek R1 0528 — DeepSeek · 684.5B · mit
• DeepSeek R1 0528 Qwen3 8B — DeepSeek · 8.2B · mit
• DeepSeek R1 Distill Llama 8B — DeepSeek · 8B · mit
• DeepSeek R1 Distill Qwen 1.5B — DeepSeek · 1.8B · mit
• DeepSeek R1 Distill Qwen 14B — DeepSeek · 14.8B · mit
• DeepSeek R1 Distill Qwen 7B — DeepSeek · 7.6B · mit
• DeepSeek V2 Lite — DeepSeek · 15.7B · other
• DeepSeek V3 — DeepSeek · unknown
• DeepSeek V3 0324 — DeepSeek · 684.5B · mit
• DeepSeek V3.1 — DeepSeek · 684.5B · mit
• DeepSeek V4 Flash — DeepSeek · 290.9B · mit
• DeepSeek V4 Pro — DeepSeek · 1598.8B · mit
• DeepSeek V4.1 Flash — DeepSeek · 763.2B · mit
• DeepSeek-R1 — DeepSeek · 684.49B · 128K · mit
• DeepSeek-R1-Distill-Qwen-32B — DeepSeek · 32.76B · 128K · mit
• DeepSeek-V3.2 — DeepSeek · 685.36B · 160K · mit
• DeepSeek-V4-Flash (0731) — DeepSeek · 304.18B · 1024K · mit
• Devstral Small 2 (24B) — Mistral AI · 24.01B · 256K · apache-2.0
• Diffusiongemma 26B A4B It — Google DeepMind · 25.8B · apache-2.0
• EmbeddingGemma 300M — Google DeepMind · 0.3B · 2K · gemma
• ERNIE 4.5 0.3B — Baidu · 0.4B · apache-2.0
• ERNIE 4.5 21B-A3B Thinking — Baidu · 21.8B · apache-2.0
• ERNIE 4.5 VL 28B-A3B — Baidu · 29.4B · apache-2.0
• EuroLLM-1.7B-Instruct — EuroLLM (utter-project) · 1.66B · 4K · apache-2.0
• EuroLLM-22B-Instruct (2512) — EuroLLM (utter-project) · 22.64B · 32K · apache-2.0
• EuroLLM-9B-Instruct (2512) — EuroLLM (utter-project) · 9.15B · 32K · apache-2.0
• Falcon 7B — Technology Innovation Institute (TII) · 7.2B · apache-2.0
• Falcon 7B Instruct — Technology Innovation Institute (TII) · 7.2B · apache-2.0
• Falcon H1 0.5B Base — Technology Innovation Institute (TII) · 0.5B · other
• Falcon H1 1.5B Deep Instruct — Technology Innovation Institute (TII) · 1.6B · other
• Falcon H1 1.5B Instruct — Technology Innovation Institute (TII) · other
• Falcon H1 3B Instruct — Technology Innovation Institute (TII) · 3.1B · other
• Falcon H1 7B Instruct — Technology Innovation Institute (TII) · 7.6B · other
• Falcon Mamba 7B Instruct — Technology Innovation Institute (TII) · 7.3B · other
• Falcon3 10B Instruct — Technology Innovation Institute (TII) · 10.3B · other
• Falcon3 7B Instruct — Technology Innovation Institute (TII) · 7.5B · other
• Flan T5 Base — Google DeepMind · 0.2B · apache-2.0
• Flan T5 Small — Google DeepMind · 0.1B · apache-2.0
• Florence 2 Base Ft — Microsoft · 0.2B · mit
• Florence 2 Large Ft — Microsoft · 0.8B · mit
• Gemma 2 2B It — Google DeepMind · 2.6B · gemma
• Gemma 2 9B It — Google DeepMind · 9.2B · gemma
• Gemma 3 12B It — Google DeepMind · 12.2B · gemma
• Gemma 3 1B It — Google DeepMind · 1B · gemma
• Gemma 3 27B It — Google DeepMind · 27.4B · gemma
• Gemma 3 4B It — Google DeepMind · 4.3B · gemma
• Gemma 4 12B It — Google DeepMind · 12B · apache-2.0
• Gemma 4 26B A4B IT — Google DeepMind · 25.81B · 256K · apache-2.0
• Gemma 4 31B — Google DeepMind · 32.7B · apache-2.0
• Gemma 4 31B IT — Google DeepMind · 31.27B · 256K · apache-2.0
• Gemma 4 E2B It — Google DeepMind · 5.1B · apache-2.0
• Gemma 4 E4B IT — Google DeepMind · 8B · 128K · apache-2.0
• Glm 4 9B Chat — Z.ai (Zhipu AI) · 9.4B · other
• GLM 4.1V 9B Thinking — Z.ai (Zhipu AI) · 10.3B · mit
• GLM 4.5 — Z.ai (Zhipu AI) · 358.3B · mit
• GLM 4.5 Air — Z.ai (Zhipu AI) · 110.5B · mit
• GLM 4.5V — Z.ai (Zhipu AI) · 107.7B · mit
• GLM 4.6 — Z.ai (Zhipu AI) · 356.8B · mit
• GLM 4.6V Flash — Z.ai (Zhipu AI) · 10.3B · mit
• GLM 5 — Z.ai (Zhipu AI) · 753.9B · mit
• GLM 5.1 — Z.ai (Zhipu AI) · 753.9B · mit
• GLM 5.2 — Z.ai (Zhipu AI) · 753.3B · mit
• GLM 5.3 Flash — Z.ai (Zhipu AI) · 321.3B · mit
• GLM Z1 32B 0414 — Z.ai (Zhipu AI) · 32.6B · mit
• GLM-4 9B Chat 1M — Z.ai (Zhipu AI) · 9.5B · other
• GLM-4.7-Flash — Z.ai (Zhipu AI) · 31.22B · 198K · mit
• GLM-5.3 — Z.ai (Zhipu AI) · 753.33B · 1024K · other
• GLM-OCR — Z.ai (Zhipu AI) · 1.33B · 128K · mit
• Gpt Neo 1.3B — EleutherAI · 1.4B · mit
• Gpt Neo 125M — EleutherAI · 0.2B · mit
• Gpt Neo 2.7B — EleutherAI · 2.7B · mit
• Gpt Neox 20B — EleutherAI · 20.7B · apache-2.0
• Gpt Oss Safeguard 20B — OpenAI · 21.5B · apache-2.0
• gpt-oss-120b — OpenAI · 116.83B · 128K · apache-2.0
• gpt-oss-20b — OpenAI · 20.91B · 128K · apache-2.0
• Granite 3.0 1B A400M Instruct — IBM · 1.3B · apache-2.0
• Granite 3.1 8B Instruct — IBM · 8.2B · apache-2.0
• Granite 3.2 8B Instruct — IBM · 8.2B · apache-2.0
• Granite 3.3 2B Instruct — IBM · 2.5B · apache-2.0
• Granite 3.3 8B Instruct — IBM · 8.2B · apache-2.0
• Granite 4.0 3B Vision — IBM · 4B · apache-2.0
• Granite 4.0 H Tiny — IBM · 6.9B · apache-2.0
• Granite 4.0 Micro — IBM · 3.4B · apache-2.0
• Granite 4.1 30B — IBM · 28.9B · apache-2.0
• Granite 4.1 3B — IBM · 3.4B · apache-2.0
• Granite 4.1 8B — IBM · 8.8B · apache-2.0
• Granite 4.2 30B — IBM · 29.3B · apache-2.0
• Granite 4.2 3B — IBM · 3.7B · apache-2.0
• Granite 4.2 8B — IBM · 8.8B · apache-2.0
• Granite Docling 258M — IBM · 0.3B · apache-2.0
• Granite Guardian 4.1 8B — IBM · 8.4B · apache-2.0
• Granite Vision 4.1 4B — IBM · 4B · apache-2.0
• gte-multilingual-reranker-base — Alibaba Qwen · 0.31B · 8K · apache-2.0
• Hunyuan A13B Instruct — Tencent · 80.4B · other
• Hunyuan Hy3 — Tencent · 298.8B · apache-2.0
• Hunyuan Hy4 Preview — Tencent · 780B · apache-2.0
• Hunyuan MT2 1.8B — Tencent · 1.8B · apache-2.0
• Hunyuan MT2 7B — Tencent · 7.5B · apache-2.0
• HunyuanOCR — Tencent · 1.1B · other
• Instructblip Flan T5 Xl — Salesforce · 4B · mit
• Instructblip Vicuna 7B — Salesforce · 7.9B · other
• Intern-S1 — Shanghai AI Laboratory · 240.7B · apache-2.0
• Intern-S1 Mini — Shanghai AI Laboratory · 8.5B · apache-2.0
• InternLM 2 20B Chat — Shanghai AI Laboratory · 19.9B · other
• InternLM 2 7B Chat — Shanghai AI Laboratory · 7.7B · other
• InternLM 2.5 7B Chat — Shanghai AI Laboratory · 7.7B · other
• InternLM 3 8B Instruct — Shanghai AI Laboratory · 8.8B · apache-2.0
• Kimi K2 Instruct — Moonshot AI · 1026.4B · other
• Kimi K2 Instruct 0905 — Moonshot AI · 1026.5B · other
• Kimi K2 Thinking — Moonshot AI · 1026.4B · other
• Kimi K2.5 — Moonshot AI · 1026.9B · other
• Kimi K2.6 — Moonshot AI · 1026.9B · other
• Kimi K2.7 Code — Moonshot AI · 1026.9B · other
• Kimi K3 — Moonshot AI · 2779.9B · other
• Kimi Linear 48B A3B Instruct — Moonshot AI · 49.1B · mit
• Kimi VL A3B Instruct — Moonshot AI · 16.4B · mit
• Llama 2 13B Chat Hf — Meta · 13B · llama2
• Llama 2 7B Chat Hf — Meta · 6.7B · llama2
• Llama 3.1 405B — Meta · 405.9B · llama3.1
• Llama 3.1 70B Instruct — Meta · 70.6B · llama3.1
• Llama 3.1 8B Instruct — Meta · 8.03B · 128K · llama3.1
• Llama 3.2 11B Vision Instruct — Meta · 10.7B · llama3.2
• Llama 3.2 1B Instruct — Meta · 1.2B · llama3.2
• Llama 3.2 3B Instruct — Meta · 3.2B · llama3.2
• Llama 3.3 70B Instruct — Meta · 70.55B · 128K · llama3.3
• Llama 4 Maverick 17B-128E Instruct — Meta · 401.58B · 1024K · other
• Llama 4 Scout 17B-16E Instruct — Meta · 108.64B · 10240K · other
• Llama Embed Nemotron 8B — NVIDIA · other
• Llama Guard 3 8B — Meta · 8B · llama3.1
• Llama Guard 4 12B — Meta · 12B · other
• Llama Nemotron Embed 1B V2 — NVIDIA · other
• Llama Nemotron Rerank 1B v2 — NVIDIA · 1.24B · 8K · other
• Llama Nemotron Rerank Vl 1B V2 — NVIDIA · other
• Magistral Small 1.2 — Mistral AI · 24.01B · 128K · apache-2.0
• Medgemma 4B It — Google DeepMind · 4.3B · other
• Meta Llama 3 70B Instruct — Meta · 70.6B · llama3
• Meta Llama 3 8B Instruct — Meta · 8B · llama3
• MiniMax M1 40k — MiniMax · 456.1B · apache-2.0
• MiniMax M2 — MiniMax · 228.7B · other
• MiniMax M2.1 — MiniMax · 228.7B · other
• MiniMax M2.5 — MiniMax · 228.7B · other
• MiniMax M3 — MiniMax · 427B · other
• MiniMax Text 01 — MiniMax · 456.1B · other
• Ministral 3 8B — Mistral AI · 8.92B · 256K · apache-2.0
• Mistral 7B Instruct v0.3 — Mistral AI · 7.25B · 32K · apache-2.0
• Mistral Large 3 (675B) — Mistral AI · 675B · 256K · apache-2.0
• Mistral NeMo 12B Instruct — Mistral AI · 12.25B · 128K · apache-2.0
• Mistral Small 4 (119B-A6B) — Mistral AI · 119.4B · 256K · apache-2.0
• Molmo 7B D 0924 — Allen Institute for AI (Ai2) · 8B · apache-2.0
• Molmo2 4B — Allen Institute for AI (Ai2) · 4.9B · apache-2.0
• Molmo2 8B — Allen Institute for AI (Ai2) · 8.7B · apache-2.0
• Moonlight 16B A3B Instruct — Moonshot AI · 16B · mit
• multilingual-e5-large — Microsoft · 0.56B · 1K · mit
• North Micro Vision Instruct — Cohere · 2.5B · apache-2.0
• North Mini Code 1.0 — Cohere · 30.5B · apache-2.0
• NVIDIA Canary 1B v2 — NVIDIA · cc-by-4.0
• NVIDIA Canary Qwen 2.5B — NVIDIA · cc-by-4.0
• NVIDIA Cosmos 3 Edge — NVIDIA · 3.9B · other
• NVIDIA Cosmos Reason2 2B — NVIDIA · 2.4B · other
• NVIDIA Nemotron 3 Embed 1B — NVIDIA · other
• NVIDIA Nemotron 3 Embed 8B — NVIDIA · other
• NVIDIA Nemotron 3 Nano 30B-A3B — NVIDIA · 31.6B · other
• NVIDIA Nemotron 3 Nano 4B — NVIDIA · 3.97B · 256K · other
• NVIDIA Nemotron 3 Nano Omni 30B-A3B Reasoning — NVIDIA · 33B · other
• NVIDIA Nemotron 3 Super 120B-A12B — NVIDIA · 123.61B · 256K · other
• NVIDIA Nemotron 3 Ultra 550B-A55B — NVIDIA · 560.5B · other
• NVIDIA Nemotron 3.5 Lightning 30B-A3B — NVIDIA · 31.6B · other
• NVIDIA NV-Embed-v2 — NVIDIA · cc-by-nc-4.0
• NVIDIA Parakeet TDT 0.6B v3 — NVIDIA · cc-by-4.0
• OLMo 1B Hf — Allen Institute for AI (Ai2) · 1.2B · apache-2.0
• OLMo 2 0325 32B Instruct — Allen Institute for AI (Ai2) · 32.2B · apache-2.0
• OLMo 2 0425 1B Instruct — Allen Institute for AI (Ai2) · 1.5B · apache-2.0
• OLMo 2 1124 7B Instruct — Allen Institute for AI (Ai2) · 7.3B · apache-2.0
• Olmo 3 1125 32B — Allen Institute for AI (Ai2) · 32.2B · apache-2.0
• Olmo 3 32B Think SFT — Allen Institute for AI (Ai2) · 32.2B · apache-2.0
• Olmo 3 7B Instruct — Allen Institute for AI (Ai2) · 7.3B · apache-2.0
• Olmo 3 7B Think — Allen Institute for AI (Ai2) · 7.3B · apache-2.0
• OlmOCR 2 7B 1025 — Allen Institute for AI (Ai2) · 8.3B · apache-2.0
• OlmOCR 7B 0225 Preview — Allen Institute for AI (Ai2) · 8.3B · apache-2.0
• OLMoE 1B 7B 0125 Instruct — Allen Institute for AI (Ai2) · 6.9B · apache-2.0
• Pharia-1-Embedding-4608-control — Aleph Alpha · 7.03B · other
• Pharia-1-LLM-7B-control-aligned — Aleph Alpha · 7.04B · 8K · other
• Phi 1 5 — Microsoft · 1.4B · mit
• Phi 2 — Microsoft · 2.8B · mit
• Phi 3 Mini 128K Instruct — Microsoft · 3.8B · mit
• Phi 3 Mini 4K Instruct — Microsoft · 3.8B · mit
• Phi 3 Vision 128K Instruct — Microsoft · 4.1B · mit
• Phi 3.5 Mini Instruct — Microsoft · 3.8B · mit
• Phi 3.5 MoE Instruct — Microsoft · 41.9B · mit
• Phi 3.5 Vision Instruct — Microsoft · 4.1B · mit
• Phi 4 Mini Instruct — Microsoft · 3.8B · mit
• Phi 4 Mini Reasoning — Microsoft · 3.8B · mit
• Phi 4 Reasoning — Microsoft · 14.7B · mit
• Phi Mini MoE Instruct — Microsoft · 7.6B · mit
• Phi Tiny MoE Instruct — Microsoft · 3.8B · mit
• Phi-4 — Microsoft · 14.66B · 16K · mit
• Phi-4-multimodal-instruct — Microsoft · 5.57B · 128K · mit
• Pixtral 12B — Mistral AI · 12B · 128K · apache-2.0
• Pythia 1.4B — EleutherAI · 1.5B · apache-2.0
• Pythia 12B — EleutherAI · 12B · apache-2.0
• Pythia 160M — EleutherAI · 0.2B · apache-2.0
• Pythia 1B — EleutherAI · 1.1B · apache-2.0
• Pythia 2.8B — EleutherAI · 2.9B · apache-2.0
• Pythia 410M — EleutherAI · 0.5B · apache-2.0
• Pythia 6.9B — EleutherAI · 7B · apache-2.0
• Pythia 70M — EleutherAI · 0.1B · apache-2.0
• Qianfan OCR — Baidu · 4.7B · apache-2.0
• Qwen2.5 0.5B Instruct — Alibaba Qwen · 0.5B · apache-2.0
• Qwen2.5 1.5B Instruct — Alibaba Qwen · 1.5B · apache-2.0
• Qwen2.5 3B Instruct — Alibaba Qwen · 3.1B · other
• Qwen2.5 72B Instruct — Alibaba Qwen · other
• Qwen2.5 7B Instruct — Alibaba Qwen · 7.6B · apache-2.0
• Qwen2.5 Coder 14B Instruct — Alibaba Qwen · apache-2.0
• Qwen2.5 Coder 32B Instruct — Alibaba Qwen · apache-2.0
• Qwen2.5 Coder 7B Instruct — Alibaba Qwen · apache-2.0
• Qwen2.5 VL 7B Instruct — Alibaba Qwen · 8.3B · apache-2.0
• Qwen3 0.6B — Alibaba Qwen · 0.8B · apache-2.0
• Qwen3 1.7B — Alibaba Qwen · 2B · apache-2.0
• Qwen3 14B — Alibaba Qwen · 14.8B · apache-2.0
• Qwen3 30B A3B Instruct 2507 — Alibaba Qwen · apache-2.0
• Qwen3 32B — Alibaba Qwen · 32.8B · apache-2.0
• Qwen3 4B — Alibaba Qwen · 4B · apache-2.0
• Qwen3 4B Instruct 2507 — Alibaba Qwen · 4B · apache-2.0
• Qwen3 Coder 480B A35B Instruct — Alibaba Qwen · apache-2.0
• Qwen3 Coder Next — Alibaba Qwen · apache-2.0
• Qwen3 Embedding 0.6B — Alibaba Qwen · apache-2.0
• Qwen3 Embedding 4B — Alibaba Qwen · apache-2.0
• Qwen3 Embedding 8B — Alibaba Qwen · apache-2.0
• Qwen3 Next 80B A3B Instruct — Alibaba Qwen · apache-2.0
• Qwen3 Next 80B A3B Thinking — Alibaba Qwen · apache-2.0
• Qwen3 Reranker 0.6B — Alibaba Qwen · apache-2.0
• Qwen3 Reranker 4B — Alibaba Qwen · apache-2.0
• Qwen3 Reranker 8B — Alibaba Qwen · apache-2.0
• Qwen3 TTS 12Hz 1.7B — Alibaba Qwen · 1.9B · apache-2.0
• Qwen3 VL 4B Instruct — Alibaba Qwen · 4.4B · apache-2.0
• Qwen3 VL Embedding 2B — Alibaba Qwen · apache-2.0
• Qwen3 VL Embedding 8B — Alibaba Qwen · apache-2.0
• Qwen3 VL Reranker 2B — Alibaba Qwen · apache-2.0
• Qwen3 VL Reranker 8B — Alibaba Qwen · apache-2.0
• Qwen3-8B — Alibaba Qwen · 8.19B · 32K · apache-2.0
• Qwen3-Coder-30B-A3B-Instruct — Alibaba Qwen · 30.53B · 256K · apache-2.0
• Qwen3-VL-8B-Instruct — Alibaba Qwen · 8.77B · 256K · apache-2.0
• Qwen3.5 2B — Alibaba Qwen · 2.3B · apache-2.0
• Qwen3.5 4B — Alibaba Qwen · 4.7B · apache-2.0
• Qwen3.5 9B — Alibaba Qwen · 9.7B · apache-2.0
• Qwen3.6 35B A3B — Alibaba Qwen · 36B · apache-2.0
• Qwen3.8-27B — Alibaba Qwen · 27.78B · 256K · apache-2.0
• Stablelm 2 1 6B — Stability AI · 1.6B · other
• Stablelm 3B 4e1t — Stability AI · 2.8B · cc-by-sa-4.0
• Stablelm Zephyr 3B — Stability AI · 2.8B · other
• Teuken 7B Instruct v0.6 — OpenGPT-X (Teuken) · 7.45B · 4K · cc-by-nc-4.0
• Unlimited OCR — Baidu · 3.3B · mit
• Voxtral Small 24B — Mistral AI · 24.26B · 32K · apache-2.0
• WeVisDoc 2B — Tencent · 2.4B · apache-2.0
• Whisper Base — OpenAI · apache-2.0
• Whisper Large — OpenAI · apache-2.0
• Whisper Large V2 — OpenAI · apache-2.0
• Whisper large-v3 — OpenAI · 1.54B · apache-2.0
• Whisper large-v3-turbo — OpenAI · 0.81B · mit
• Whisper Medium — OpenAI · apache-2.0
• Whisper Small — OpenAI · apache-2.0
• Whisper Tiny — OpenAI · apache-2.0
• Wildguard — Allen Institute for AI (Ai2) · 7.2B · apache-2.0
• Yi 1.5 34B Chat — 01.AI · 34.4B · apache-2.0
• Yi 1.5 6B Chat — 01.AI · 6.1B · apache-2.0
• Yi 1.5 9B Chat — 01.AI · 8.8B · apache-2.0
• Yi 34B — 01.AI · 34.4B · apache-2.0
• Yi 6B — 01.AI · 6.1B · apache-2.0
• Yi 9B 200K — 01.AI · 8.8B · apache-2.0
• Yi-Coder 9B — 01.AI · 8.8B · apache-2.0
• Yi-Coder 9B Chat — 01.AI · 8.8B · apache-2.0
• Youtu LLM 2B — Tencent · 2B · other

eu-builders · german · french · long-context · coding · rag · vision · audio · apache-2 · self-hostable · catalogue-only