Llama 3.3 70B Instruct

Meta

Pouze katalog Otevřené váhy

Suverenita a hostování

Pouze katalog

Tento model je v katalogu pouze pro referenci. Zatím není hostován na LLM EU a žádný vlastní endpoint jej zde neobsluhuje. Požadavky na něj jdou přímo poskytovateli, podle jeho vlastních podmínek.

Souhrn

Llama 3.3 70B Instruct is the December 2024 refresh of Meta’s 70B instruct model, with a 128k-token context window and the same Llama 3.3 Community License terms as Llama 3.1. Meta positions it as an alternative to the larger Llama 3.1 405B for general assistant work. It is text-only and is the largest dense Llama checkpoint still in common self-hosted use.

Specifikace

Poskytovatel
Meta (US)
Kontextové okno
131k
Parametry
70.55B
Modality
text
Licence
llama3.3 · licence
Otevřené váhy
yes
Datum vydání
06. 12. 2024
Úlohy
reasoning, summarization, multilingual-support, rag

Jazyky

Silná: en, de, fr, it, pt, es

Dostatečná: hi, th

Jazyky

Silná

  • en
  • de
  • fr
  • it
  • pt
  • es

Dostatečná

  • hi
  • th

Neověřeno: poskytovatel tento údaj nedokumentoval. — a language is listed as strong only where a source claims it; the card links the evidence where one exists.

Kdy jej použít

Silné stránky

  • 70B dense quality at a fraction of 405B serving cost
  • 128k-token context window
  • mature quantisation and serving support

Omezení

  • Llama 3.3 Community License with a 700M MAU threshold and acceptable-use policy
  • text-only, no image input
  • needs multiple accelerators at BF16