LLM EU
Menu

Llama 3.3 70B Instruct

Meta

Kun katalog Åbne vægte

Suverænitet og hosting

Kun katalog

Denne model er katalogiseret til reference. Den er ikke hostet på LLM EU endnu, og ingen førsteparts-endpoint betjener den her. Anmodninger til den går direkte til udbyderen, under den pågældende udbyders egne vilkår.

Resumé

Llama 3.3 70B Instruct is the December 2024 refresh of Meta’s 70B instruct model, with a 128k-token context window and the same Llama 3.3 Community License terms as Llama 3.1. Meta positions it as an alternative to the larger Llama 3.1 405B for general assistant work. It is text-only and is the largest dense Llama checkpoint still in common self-hosted use.

Specifikationer

Udbyder
Meta (US)
Kontekstvindue
131k
Parametre
70.55B
Modaliteter
text
Licens
llama3.3 · licence
Åbne vægte
yes
Udgivelsesdato
06. dec. 2024
Opgaver
reasoning, summarization, multilingual-support, rag

Sprog

Stærk: en, de, fr, it, pt, es

Tilstrækkelig: hi, th

Sprog

Stærk

  • en
  • de
  • fr
  • it
  • pt
  • es

Tilstrækkelig

  • hi
  • th

Ikke verificeret: udbyderen har ikke dokumenteret denne påstand. — a language is listed as strong only where a source claims it; the card links the evidence where one exists.

Hvornår skal man bruge den

Styrker

  • 70B dense quality at a fraction of 405B serving cost
  • 128k-token context window
  • mature quantisation and serving support

Begrænsninger

  • Llama 3.3 Community License with a 700M MAU threshold and acceptable-use policy
  • text-only, no image input
  • needs multiple accelerators at BF16