Modely

Mistral NeMo 12B Instruct

Mistral AI · Poskytovatelia EU

Iba v katalógu Otvorené váhy Európsky poskytovateľ

Naposledy skontrolované:

Suverenita a hosting

Iba v katalógu

Tento model je v katalógu len pre referenciu. Zatiaľ nie je hostovaný na LLM EU a žiadny koncový bod prvej strany ho tu neobsluhuje. Požiadavky naň smerujú priamo k poskytovateľovi, podľa jeho vlastných podmienok.

Zhrnutie

Mistral NeMo je 12B model postavený s NVIDIA, vydaný pod Apache-2.0 s kontextovým oknom 128k tokenov a tokenizérom Tekken. Karta hlási 68.0% na 5-shot MMLU a uvádza angličtinu, francúzštinu, nemčinu, španielčinu, taliančinu, portugalčinu, čínštinu, japončinu a ruštinu ako podporované jazyky. Zostáva bežnou voľbou tam, kde je dôležitejšia povolená licencia a malá stopa ako špičková kvalita.

Špecifikácie

Poskytovateľ
Mistral AI (FR)
Kontextové okno
131k
Parametre
12.25B
Modalitá
text
Licencia
apache-2.0 · licence
Otvorené váhy
yes
Dátum vydania
17. 7. 2024
Úlohy
Nízke náklady, Viacjazyčná podpora, Zhrnutie, Vyhľadávanie (RAG)

Jazyky

Silná: en, fr, de, es, it, pt

Dostatočná: zh, ja, ru

Silná

  • en
  • fr
  • de
  • es
  • it
  • pt

Dostatočná

  • zh
  • ja
  • ru

Neoverené: poskytovateľ tento údaj nedokumentoval. — a language is listed as strong only where a source claims it; the card links the evidence where one exists.

Kedy ho použiť

Silné stránky

  • 128k-token context window in the 12B class
  • Apache-2.0 licence with no user threshold
  • nine declared languages including the large EU ones
  • small enough for a single mid-range accelerator

Obmedzenia

  • quality is below current 12B to 30B releases
  • released July 2024 and not updated since
  • no evaluation has been run by LLM EU

Často kladené otázky

Is Mistral NeMo 12B Instruct served on LLM EU?

It has no endpoint in the catalogue, so it is catalogue only — not hosted on LLM EU yet, with no region and no retention to report. A card whose status is "listed" is a catalogue entry, not a running deployment.

Under what licence is Mistral NeMo 12B Instruct released?

Mistral NeMo 12B Instruct is recorded under apache-2.0. The recorded licence text is https://www.apache.org/licenses/LICENSE-2.0. The weights are downloadable (open_weights is true). LLM EU republishes the licence id and the link and gives no legal advice; the licence text governs.

How large is Mistral NeMo 12B Instruct, and what context window does it have?

Mistral NeMo 12B Instruct is recorded at 12.2B (safetensors total 12,247,782,400) (source: https://huggingface.co/api/models/mistralai/Mistral-Nemo-Instruct-2407), with a context window of 131072 tokens (source: https://huggingface.co/mistralai/Mistral-Nemo-Instruct-2407).