Usporedi
Llama 3.1 8B Instruct vs Llama 3.1 405B
Stavite dva do četiri modela jedan pored drugoga na poljima koja odlučuju o implementaciji: kontekst, cijena, regija, licenca, jezici, hosting i što je verificirano.
| Llama 3.1 8B Instruct | Llama 3.1 405B | |
|---|---|---|
| Pružatelj | Meta | Meta |
| Parametri | 8.03B | 405.9B |
| Prozor konteksta | 131k | Nije provjereno: pružatelj nije dokumentirao ovu tvrdnju. |
| Licenca | llama3.1 | llama3.1 |
| Modaliteti | text | text |
| Datum izdanja | 23. srp 2024. | 16. srp 2024. |
| Jezici | Jako: en, de, fr, it, pt, es Zadovoljavajuće: hi, th | Jako: en, de, fr, it, pt, es Zadovoljavajuće: hi, th |
| Otvoreni utezi | da | da |
| Zadaci | Niska cijena, Dohvaćanje (RAG), Sažimanje, Višejezična podrška, Korisnička podrška | Zaključivanje, Višejezična podrška |
Kada se dva modela razlikuju, ova tablica pokazuje razliku i tu staje. LLM EU ne objavljuje značku pobjednika bez dokumentiranog rezultata za taj zadatak, a brojka koja nedostaje ostaje nedostajuća umjesto da postane nula.
Kada ga koristiti
Llama 3.1 8B Instruct
Prednosti
- 128k-token context window at the 8B size class
- very broad tooling and quantisation support
- published EU21 evaluation against European-focused models
Ograničenja
- Llama 3.1 Community License, not an OSI licence, with a 700M MAU threshold
- English-centric training data; weaker on smaller EU languages
- released July 2024 and behind current 8B models
Zadaci
Niska cijena, Dohvaćanje (RAG), Sažimanje, Višejezična podrška, Korisnička podrška
Llama 3.1 405B
Prednosti
- open weights are published on Hugging Face and can be downloaded without a vendor agreement
- the model page lists 6 languages the European Union publishes in, including en, de, fr, it
Ograničenja
- catalogue only — LLM EU does not run this model, and nothing on this card implies an LLM EU endpoint
- no evaluation has been run by LLM EU
- the published configuration records no context window, so the card carries none
- at 405.9B parameters, self-hosting needs a multi-node deployment rather than a single server
Zadaci
Zadaci: Višejezična podrška