Llama 3.3 70B Instruct
Viimati üle vaadatud:
Suveräänsus ja majutus
See mudel on kataloogis viitamiseks. Seda ei hostita veel LLM EU-s ja ükski esimese osapoole lõpp-punkt ei teeninda seda siin. Päringud sellele suunatakse otse pakkujale, vastavalt pakkuja enda tingimustele.
Kokkuvõte
Llama 3.3 70B Instruct on Meta 70B juhendmudeli detsembri 2024 värskendus, millel on 128k-märgi kontekstiaken ja samad Llama 3.3 Community License'i tingimused nagu Llama 3.1-l. Meta positsioneerib seda alternatiivina suuremale Llama 3.1 405B-le üldiseks assistendi tööks. See on ainult tekstipõhine ja on suurim tihe Llama kontrollpunkt, mis on endiselt tavalises isemajutatud kasutuses.
Spetsifikatsioonid
- Pakkuja
- Meta (US)
- Konteksti aken
- 131k
- Parameetrid
- 70.55B
- Modaalsused
- text
- Litsents
- llama3.3 · licence
- Avatud kaalud
- yes
- Väljalaske kuupäev
- 06. dets 2024
- Ülesanded
- Arutluskäik, Kokkuvõtete tegemine, Mitmekeelne tugi, Otsing (RAG)
Keeled
Tugev: en, de, fr, it, pt, es
Piisav: hi, th
Tugev
- en
- de
- fr
- it
- pt
- es
Piisav
- hi
- th
Kinnitamata: pakkuja ei ole seda väidet dokumenteerinud. — a language is listed as strong only where a source claims it; the card links the evidence where one exists.
Millal kasutada
Tugevused
- 70B dense quality at a fraction of 405B serving cost
- 128k-token context window
- mature quantisation and serving support
Piirangud
- Llama 3.3 Community License with a 700M MAU threshold and acceptable-use policy
- text-only, no image input
- needs multiple accelerators at BF16
Korduma kippuvad küsimused
Is Llama 3.3 70B Instruct served on LLM EU?
It has no endpoint in the catalogue, so it is catalogue only — not hosted on LLM EU yet, with no region and no retention to report. A card whose status is "listed" is a catalogue entry, not a running deployment.
Under what licence is Llama 3.3 70B Instruct released?
Llama 3.3 70B Instruct is recorded under llama3.3. The recorded licence text is https://www.llama.com/llama3_3/license/. The weights are downloadable (open_weights is true). LLM EU republishes the licence id and the link and gives no legal advice; the licence text governs.
How large is Llama 3.3 70B Instruct, and what context window does it have?
Llama 3.3 70B Instruct is recorded at 70.55B (safetensors total 70,553,706,496) (source: https://huggingface.co/api/models/meta-llama/Llama-3.3-70B-Instruct), with a context window of 131072 tokens (source: https://huggingface.co/meta-llama/Llama-3.3-70B-Instruct).