Llama 3.3 70B Instruct
Última revisión:
Soberanía y alojamiento
Este modelo está catalogado como referencia. Aún no está alojado en LLM EU y ningún endpoint propio lo sirve aquí. Las solicitudes se envían directamente al proveedor, bajo sus propias condiciones.
Resumen
Llama 3.3 70B Instruct es la actualización de diciembre de 2024 del modelo de instrucciones de 70B de Meta, con una ventana de contexto de 128k tokens y los mismos términos de la licencia Llama 3.3 Community License que Llama 3.1. Meta lo posiciona como una alternativa al Llama 3.1 405B más grande para trabajos de asistente general. Es solo de texto y es el punto de control Llama denso más grande que todavía se usa comúnmente de forma autoalojada.
Especificaciones
- Proveedor
- Meta (US)
- Ventana de contexto
- 131k
- Parámetros
- 70.55B
- Modalidades
- text
- Licencia
- llama3.3 · licence
- Pesos abiertos
- yes
- Fecha de publicación
- 06 dic 2024
- Tareas
- Razonamiento, Resumen, Soporte multilingüe, Recuperación (RAG)
Idiomas
Sólido: en, de, fr, it, pt, es
Adecuado: hi, th
Sólido
- en
- de
- fr
- it
- pt
- es
Adecuado
- hi
- th
Sin verificar: el proveedor no ha documentado esta afirmación. — a language is listed as strong only where a source claims it; the card links the evidence where one exists.
Cuándo usarlo
Puntos fuertes
- 70B dense quality at a fraction of 405B serving cost
- 128k-token context window
- mature quantisation and serving support
Límites
- Llama 3.3 Community License with a 700M MAU threshold and acceptable-use policy
- text-only, no image input
- needs multiple accelerators at BF16
Preguntas frecuentes
Is Llama 3.3 70B Instruct served on LLM EU?
It has no endpoint in the catalogue, so it is catalogue only — not hosted on LLM EU yet, with no region and no retention to report. A card whose status is "listed" is a catalogue entry, not a running deployment.
Under what licence is Llama 3.3 70B Instruct released?
Llama 3.3 70B Instruct is recorded under llama3.3. The recorded licence text is https://www.llama.com/llama3_3/license/. The weights are downloadable (open_weights is true). LLM EU republishes the licence id and the link and gives no legal advice; the licence text governs.
How large is Llama 3.3 70B Instruct, and what context window does it have?
Llama 3.3 70B Instruct is recorded at 70.55B (safetensors total 70,553,706,496) (source: https://huggingface.co/api/models/meta-llama/Llama-3.3-70B-Instruct), with a context window of 131072 tokens (source: https://huggingface.co/meta-llama/Llama-3.3-70B-Instruct).