Mudelid

Llama 3.3 70B Instruct

Meta

Ainult kataloogis Avatud kaalud

Viimati üle vaadatud:

Suveräänsus ja majutus

Ainult kataloogis

See mudel on kataloogis viitamiseks. Seda ei hostita veel LLM EU-s ja ükski esimese osapoole lõpp-punkt ei teeninda seda siin. Päringud sellele suunatakse otse pakkujale, vastavalt pakkuja enda tingimustele.

Kokkuvõte

Llama 3.3 70B Instruct on Meta 70B juhendmudeli detsembri 2024 värskendus, millel on 128k-märgi kontekstiaken ja samad Llama 3.3 Community License'i tingimused nagu Llama 3.1-l. Meta positsioneerib seda alternatiivina suuremale Llama 3.1 405B-le üldiseks assistendi tööks. See on ainult tekstipõhine ja on suurim tihe Llama kontrollpunkt, mis on endiselt tavalises isemajutatud kasutuses.

Spetsifikatsioonid

Pakkuja
Meta (US)
Konteksti aken
131k
Parameetrid
70.55B
Modaalsused
text
Litsents
llama3.3 · licence
Avatud kaalud
yes
Väljalaske kuupäev
06. dets 2024
Ülesanded
Arutluskäik, Kokkuvõtete tegemine, Mitmekeelne tugi, Otsing (RAG)

Keeled

Tugev: en, de, fr, it, pt, es

Piisav: hi, th

Tugev

  • en
  • de
  • fr
  • it
  • pt
  • es

Piisav

  • hi
  • th

Kinnitamata: pakkuja ei ole seda väidet dokumenteerinud. — a language is listed as strong only where a source claims it; the card links the evidence where one exists.

Millal kasutada

Tugevused

  • 70B dense quality at a fraction of 405B serving cost
  • 128k-token context window
  • mature quantisation and serving support

Piirangud

  • Llama 3.3 Community License with a 700M MAU threshold and acceptable-use policy
  • text-only, no image input
  • needs multiple accelerators at BF16

Korduma kippuvad küsimused

Is Llama 3.3 70B Instruct served on LLM EU?

It has no endpoint in the catalogue, so it is catalogue only — not hosted on LLM EU yet, with no region and no retention to report. A card whose status is "listed" is a catalogue entry, not a running deployment.

Under what licence is Llama 3.3 70B Instruct released?

Llama 3.3 70B Instruct is recorded under llama3.3. The recorded licence text is https://www.llama.com/llama3_3/license/. The weights are downloadable (open_weights is true). LLM EU republishes the licence id and the link and gives no legal advice; the licence text governs.

How large is Llama 3.3 70B Instruct, and what context window does it have?

Llama 3.3 70B Instruct is recorded at 70.55B (safetensors total 70,553,706,496) (source: https://huggingface.co/api/models/meta-llama/Llama-3.3-70B-Instruct), with a context window of 131072 tokens (source: https://huggingface.co/meta-llama/Llama-3.3-70B-Instruct).