LLM EU
Menü
Modellek

Llama 3.3 70B Instruct

Meta

Csak katalógusban Nyílt súlyok

Utolsó ellenőrzés:

Szuverenitás és hosting

Csak a katalógusban

Ez a modell referenciaként szerepel a katalógusban. Az LLM EU még nem üzemelteti, és itt saját végpont nem szolgálja ki. A hozzá intézett kérések közvetlenül a szolgáltatóhoz mennek, a szolgáltató saját feltételei szerint.

Összefoglaló

A Llama 3.3 70B Instruct a Meta 70B-s utasításkövető modelljének 2024. decemberi frissítése, 128k tokenes kontextusablakkal és ugyanazokkal a Llama 3.3 Community License feltételekkel, mint a Llama 3.1. A Meta a nagyobb Llama 3.1 405B alternatívájaként pozicionálja az általános asszisztensi munkákhoz. Csak szöveges, és a legnagyobb sűrű Llama ellenőrzőpont, amely még mindig általánosan használt önállóan hosztolt környezetben.

Specifikációk

Szolgáltató
Meta (US)
Kontextusablak
131k
Paraméterek
70.55B
Modalitások
text
Licenc
llama3.3 · licence
Nyílt súlyok
yes
Kiadás dátuma
2024. dec. 06.
Feladatok
Érvelés, Összefoglalás, Többnyelvű támogatás, Lekérdezés (RAG)

Nyelvek

Erős: en, de, fr, it, pt, es

Megfelelő: hi, th

Erős

  • en
  • de
  • fr
  • it
  • pt
  • es

Megfelelő

  • hi
  • th

Nincs ellenőrizve: a szolgáltató nem dokumentálta ezt az állítást. — a language is listed as strong only where a source claims it; the card links the evidence where one exists.

Mikor érdemes használni

Erősségek

  • 70B dense quality at a fraction of 405B serving cost
  • 128k-token context window
  • mature quantisation and serving support

Korlátok

  • Llama 3.3 Community License with a 700M MAU threshold and acceptable-use policy
  • text-only, no image input
  • needs multiple accelerators at BF16

Gyakran ismételt kérdések

Is Llama 3.3 70B Instruct served on LLM EU?

It has no endpoint in the catalogue, so it is catalogue only — not hosted on LLM EU yet, with no region and no retention to report. A card whose status is "listed" is a catalogue entry, not a running deployment.

Under what licence is Llama 3.3 70B Instruct released?

Llama 3.3 70B Instruct is recorded under llama3.3. The recorded licence text is https://www.llama.com/llama3_3/license/. The weights are downloadable (open_weights is true). LLM EU republishes the licence id and the link and gives no legal advice; the licence text governs.

How large is Llama 3.3 70B Instruct, and what context window does it have?

Llama 3.3 70B Instruct is recorded at 70.55B (safetensors total 70,553,706,496) (source: https://huggingface.co/api/models/meta-llama/Llama-3.3-70B-Instruct), with a context window of 131072 tokens (source: https://huggingface.co/meta-llama/Llama-3.3-70B-Instruct).