LLM EU
Menu
Modely

Llama 3.3 70B Instruct

Meta

Iba v katalógu Otvorené váhy

Naposledy skontrolované:

Suverenita a hosting

Iba v katalógu

Tento model je v katalógu len pre referenciu. Zatiaľ nie je hostovaný na LLM EU a žiadny koncový bod prvej strany ho tu neobsluhuje. Požiadavky naň smerujú priamo k poskytovateľovi, podľa jeho vlastných podmienok.

Zhrnutie

Llama 3.3 70B Instruct je decembrová aktualizácia 70B inštrukčného modelu spoločnosti Meta z roku 2024, s kontextovým oknom 128k tokenov a rovnakými podmienkami licencie Llama 3.3 Community License ako Llama 3.1. Meta ho umiestňuje ako alternatívu k väčšiemu Llama 3.1 405B pre všeobecnú asistenčnú prácu. Je iba textový a je najväčším hustým kontrolným bodom Llama, ktorý sa stále bežne používa na vlastnom hostingu.

Špecifikácie

Poskytovateľ
Meta (US)
Kontextové okno
131k
Parametre
70.55B
Modalitá
text
Licencia
llama3.3 · licence
Otvorené váhy
yes
Dátum vydania
06. 12. 2024
Úlohy
Uvažovanie, Zhrnutie, Viacjazyčná podpora, Vyhľadávanie (RAG)

Jazyky

Silná: en, de, fr, it, pt, es

Dostatočná: hi, th

Silná

  • en
  • de
  • fr
  • it
  • pt
  • es

Dostatočná

  • hi
  • th

Neoverené: poskytovateľ tento údaj nedokumentoval. — a language is listed as strong only where a source claims it; the card links the evidence where one exists.

Kedy ho použiť

Silné stránky

  • 70B dense quality at a fraction of 405B serving cost
  • 128k-token context window
  • mature quantisation and serving support

Obmedzenia

  • Llama 3.3 Community License with a 700M MAU threshold and acceptable-use policy
  • text-only, no image input
  • needs multiple accelerators at BF16

Často kladené otázky

Is Llama 3.3 70B Instruct served on LLM EU?

It has no endpoint in the catalogue, so it is catalogue only — not hosted on LLM EU yet, with no region and no retention to report. A card whose status is "listed" is a catalogue entry, not a running deployment.

Under what licence is Llama 3.3 70B Instruct released?

Llama 3.3 70B Instruct is recorded under llama3.3. The recorded licence text is https://www.llama.com/llama3_3/license/. The weights are downloadable (open_weights is true). LLM EU republishes the licence id and the link and gives no legal advice; the licence text governs.

How large is Llama 3.3 70B Instruct, and what context window does it have?

Llama 3.3 70B Instruct is recorded at 70.55B (safetensors total 70,553,706,496) (source: https://huggingface.co/api/models/meta-llama/Llama-3.3-70B-Instruct), with a context window of 131072 tokens (source: https://huggingface.co/meta-llama/Llama-3.3-70B-Instruct).