LLM EU
Menü
Modellek

Llama 3.1 8B Instruct

Meta

Csak katalógusban Nyílt súlyok

Utolsó ellenőrzés:

Szuverenitás és hosting

Csak a katalógusban

Ez a modell referenciaként szerepel a katalógusban. Az LLM EU még nem üzemelteti, és itt saját végpont nem szolgálja ki. A hozzá intézett kérések közvetlenül a szolgáltatóhoz mennek, a szolgáltató saját feltételei szerint.

Összefoglaló

A Llama 3.1 8B Instruct a Meta közepes méretű utasításkövető modellje 128k tokenes kontextusablakkal és eszközhívási támogatással, a Llama 3.1 Community License alatt kiadva. Ez a licenc engedélyezi a kereskedelmi felhasználást, de 700 millió havi aktív felhasználó felett licencet igényel a Metától, és hozzáad egy elfogadható használati szabályzatot. Továbbra is az egyik leggyakrabban letöltött nyílt ellenőrzőpont és egy standard alapvonal; az OpenGPT-X európai nyelvi értékelésén 0,563 pontot ér el az EU21-en.

Specifikációk

Szolgáltató
Meta (US)
Kontextusablak
131k
Paraméterek
8.03B
Modalitások
text
Licenc
llama3.1 · licence
Nyílt súlyok
yes
Kiadás dátuma
2024. júl. 23.
Feladatok
Alacsony költség, Lekérdezés (RAG), Összefoglalás, Többnyelvű támogatás, Ügyfélszolgálat

Nyelvek

Erős: en, de, fr, it, pt, es

Megfelelő: hi, th

Erős

  • en
  • de
  • fr
  • it
  • pt
  • es

Megfelelő

  • hi
  • th

Nincs ellenőrizve: a szolgáltató nem dokumentálta ezt az állítást. — a language is listed as strong only where a source claims it; the card links the evidence where one exists.

Mikor érdemes használni

Erősségek

  • 128k-token context window at the 8B size class
  • very broad tooling and quantisation support
  • published EU21 evaluation against European-focused models

Korlátok

  • Llama 3.1 Community License, not an OSI licence, with a 700M MAU threshold
  • English-centric training data; weaker on smaller EU languages
  • released July 2024 and behind current 8B models

Gyakran ismételt kérdések

Is Llama 3.1 8B Instruct served on LLM EU?

It has no endpoint in the catalogue, so it is catalogue only — not hosted on LLM EU yet, with no region and no retention to report. A card whose status is "listed" is a catalogue entry, not a running deployment.

Under what licence is Llama 3.1 8B Instruct released?

Llama 3.1 8B Instruct is recorded under llama3.1. The recorded licence text is https://www.llama.com/llama3_1/license/. The weights are downloadable (open_weights is true). LLM EU republishes the licence id and the link and gives no legal advice; the licence text governs.

How large is Llama 3.1 8B Instruct, and what context window does it have?

Llama 3.1 8B Instruct is recorded at 8.03B (safetensors total 8,030,261,248) (source: https://huggingface.co/api/models/meta-llama/Llama-3.1-8B-Instruct), with a context window of 131072 tokens (source: https://huggingface.co/meta-llama/Llama-3.1-8B-Instruct).