Llama 3.1 8B Instruct
Suwerenność i hosting
Ten model jest skatalogowany jako odniesienie. Nie jest jeszcze hostowany w LLM EU i żaden własny endpoint go tu nie obsługuje. Żądania do niego trafiają bezpośrednio do dostawcy, na warunkach tego dostawcy.
Podsumowanie
Llama 3.1 8B Instruct is Meta’s mid-small instruction model with a 128k-token context window and tool-calling support, released under the Llama 3.1 Community License. That licence permits commercial use but requires a licence from Meta above 700 million monthly active users and adds an acceptable-use policy. It remains one of the most downloaded open checkpoints and a standard baseline; in the OpenGPT-X European-language evaluation it scores 0.563 on EU21.
Specyfikacje
- Dostawca
- Meta (US)
- Okno kontekstowe
- 131k
- Parametry
- 8.03B
- Modalności
- text
- Licencja
- llama3.1 · licence
- Otwarte wagi
- yes
- Data wydania
- 23 lip 2024
- Zadania
- cheap, rag, summarization, multilingual-support, customer-support
Języki
Mocny: en, de, fr, it, pt, es
Wystarczający: hi, th
Języki
Mocny
- en
- de
- fr
- it
- pt
- es
Wystarczający
- hi
- th
Niezweryfikowane: dostawca nie udokumentował tego twierdzenia. — a language is listed as strong only where a source claims it; the card links the evidence where one exists.
Kiedy używać
Mocne strony
- 128k-token context window at the 8B size class
- very broad tooling and quantisation support
- published EU21 evaluation against European-focused models
Ograniczenia
- Llama 3.1 Community License, not an OSI licence, with a 700M MAU threshold
- English-centric training data; weaker on smaller EU languages
- released July 2024 and behind current 8B models