Porovnat
Llama 3.1 8B Instruct vs Llama 3.1 70B Instruct
Porovnejte dva až čtyři modely vedle sebe podle polí, která rozhodují o nasazení: kontext, cena, region, licence, jazyky, hosting a co je ověřeno.
| Llama 3.1 8B Instruct | Llama 3.1 70B Instruct | |
|---|---|---|
| Poskytovatel | Meta | Meta |
| Parametry | 8.03B | 70.6B |
| Kontextové okno | 131k | Neověřeno: poskytovatel toto tvrzení nedokumentoval. |
| Licence | llama3.1 | llama3.1 |
| Modality | text | text |
| Datum vydání | 23. 7. 2024 | 16. 7. 2024 |
| Jazyky | Silná: en, de, fr, it, pt, es Dostatečná: hi, th | Silná: en, de, fr, it, pt, es Dostatečná: hi, th |
| Otevřené váhy | ano | ano |
| Úlohy | Nízké náklady, Vyhledávání (RAG), Shrnutí, Vícejazyčná podpora, Zákaznická podpora | Vícejazyčná podpora, Uvažování, Shrnutí |
Tam, kde se dva modely liší, tabulka ukáže rozdíl a skončí. LLM EU nezveřejňuje odznak vítěze bez doloženého skóre pro danou úlohu a chybějící údaj zůstává chybějící, místo aby se stal nulou.
Kdy použít
Llama 3.1 8B Instruct
Silné stránky
- 128k-token context window at the 8B size class
- very broad tooling and quantisation support
- published EU21 evaluation against European-focused models
Omezení
- Llama 3.1 Community License, not an OSI licence, with a 700M MAU threshold
- English-centric training data; weaker on smaller EU languages
- released July 2024 and behind current 8B models
Úlohy
Nízké náklady, Vyhledávání (RAG), Shrnutí, Vícejazyčná podpora, Zákaznická podpora
Llama 3.1 70B Instruct
Silné stránky
- open weights are published on Hugging Face and can be downloaded without a vendor agreement
- the model page lists 6 languages the European Union publishes in, including en, de, fr, it
- instruction-tuned checkpoint with a chat template in the repository
Omezení
- catalogue only — LLM EU does not run this model, and nothing on this card implies an LLM EU endpoint
- no evaluation has been run by LLM EU
- the published configuration records no context window, so the card carries none
- at 70.6B parameters, self-hosting needs a high-memory accelerator
Úlohy
Úlohy: Shrnutí, Vícejazyčná podpora