LLM EU
Menu
Modely

Llama 3.3 70B Instruct

Meta

Pouze katalog Otevřené váhy

Naposledy zkontrolováno:

Suverenita a hosting

Pouze v katalogu

Tento model je uveden v katalogu pro referenci. Zatím není hostován na LLM EU a žádný endpoint první strany zde neposkytuje jeho služby. Požadavky na něj směřují přímo k poskytovateli, podle jeho vlastních podmínek.

Shrnutí

Llama 3.3 70B Instruct je prosincová aktualizace 70B instrukčního modelu společnosti Meta z roku 2024 s kontextovým oknem 128k tokenů a stejnými licenčními podmínkami Llama 3.3 Community License jako Llama 3.1. Meta jej umisťuje jako alternativu k většímu Llama 3.1 405B pro obecnou asistenční práci. Je pouze textový a je největším hustým Llama checkpointem, který se stále běžně používá v self-hostingu.

Specifikace

Poskytovatel
Meta (US)
Kontextové okno
131k
Parametry
70.55B
Modality
text
Licence
llama3.3 · licence
Otevřené váhy
yes
Datum vydání
06. 12. 2024
Úlohy
Uvažování, Shrnutí, Vícejazyčná podpora, Vyhledávání (RAG)

Jazyky

Silná: en, de, fr, it, pt, es

Dostatečná: hi, th

Silná

  • en
  • de
  • fr
  • it
  • pt
  • es

Dostatečná

  • hi
  • th

Neověřeno: poskytovatel toto tvrzení nedokumentoval. — a language is listed as strong only where a source claims it; the card links the evidence where one exists.

Kdy použít

Silné stránky

  • 70B dense quality at a fraction of 405B serving cost
  • 128k-token context window
  • mature quantisation and serving support

Omezení

  • Llama 3.3 Community License with a 700M MAU threshold and acceptable-use policy
  • text-only, no image input
  • needs multiple accelerators at BF16

Často kladené otázky

Is Llama 3.3 70B Instruct served on LLM EU?

It has no endpoint in the catalogue, so it is catalogue only — not hosted on LLM EU yet, with no region and no retention to report. A card whose status is "listed" is a catalogue entry, not a running deployment.

Under what licence is Llama 3.3 70B Instruct released?

Llama 3.3 70B Instruct is recorded under llama3.3. The recorded licence text is https://www.llama.com/llama3_3/license/. The weights are downloadable (open_weights is true). LLM EU republishes the licence id and the link and gives no legal advice; the licence text governs.

How large is Llama 3.3 70B Instruct, and what context window does it have?

Llama 3.3 70B Instruct is recorded at 70.55B (safetensors total 70,553,706,496) (source: https://huggingface.co/api/models/meta-llama/Llama-3.3-70B-Instruct), with a context window of 131072 tokens (source: https://huggingface.co/meta-llama/Llama-3.3-70B-Instruct).