LLM EU
Menu
Modelos

Llama 3.3 70B Instruct

Meta

Apenas catálogo Pesos abertos

Última revisão:

Soberania e alojamento

Apenas no catálogo

Este modelo está catalogado para referência. Ainda não está alojado na LLM EU, e nenhum endpoint próprio o serve aqui. Os pedidos são encaminhados diretamente para o fornecedor, sob os termos desse fornecedor.

Resumo

Llama 3.3 70B Instruct é a atualização de dezembro de 2024 do modelo de instrução 70B da Meta, com uma janela de contexto de 128k tokens e os mesmos termos da Llama 3.3 Community License que a Llama 3.1. A Meta posiciona-o como uma alternativa ao Llama 3.1 405B, maior, para trabalho de assistente geral. É apenas texto e é o maior checkpoint Llama denso ainda em uso comum auto-hospedado.

Especificações

Fornecedor
Meta (US)
Janela de contexto
131k
Parâmetros
70.55B
Modalidades
text
Licença
llama3.3 · licence
Pesos abertos
yes
Data de lançamento
06/12/2024
Tarefas
Raciocínio, Sumarização, Suporte multilingue, Recuperação (RAG)

Idiomas

Forte: en, de, fr, it, pt, es

Adequado: hi, th

Forte

  • en
  • de
  • fr
  • it
  • pt
  • es

Adequado

  • hi
  • th

Não verificado: o fornecedor não documentou esta afirmação. — a language is listed as strong only where a source claims it; the card links the evidence where one exists.

Quando usar

Pontos fortes

  • 70B dense quality at a fraction of 405B serving cost
  • 128k-token context window
  • mature quantisation and serving support

Limitações

  • Llama 3.3 Community License with a 700M MAU threshold and acceptable-use policy
  • text-only, no image input
  • needs multiple accelerators at BF16

Perguntas frequentes

Is Llama 3.3 70B Instruct served on LLM EU?

It has no endpoint in the catalogue, so it is catalogue only — not hosted on LLM EU yet, with no region and no retention to report. A card whose status is "listed" is a catalogue entry, not a running deployment.

Under what licence is Llama 3.3 70B Instruct released?

Llama 3.3 70B Instruct is recorded under llama3.3. The recorded licence text is https://www.llama.com/llama3_3/license/. The weights are downloadable (open_weights is true). LLM EU republishes the licence id and the link and gives no legal advice; the licence text governs.

How large is Llama 3.3 70B Instruct, and what context window does it have?

Llama 3.3 70B Instruct is recorded at 70.55B (safetensors total 70,553,706,496) (source: https://huggingface.co/api/models/meta-llama/Llama-3.3-70B-Instruct), with a context window of 131072 tokens (source: https://huggingface.co/meta-llama/Llama-3.3-70B-Instruct).