Sammenlign
Llama 3.1 8B Instruct vs Llama 3.1 70B Instruct
Sæt to til fire modeller side om side på de felter, der afgør en udrulning: kontekst, pris, region, licens, sprog, hosting og hvad der er verificeret.
| Llama 3.1 8B Instruct | Llama 3.1 70B Instruct | |
|---|---|---|
| Udbyder | Meta | Meta |
| Parametre | 8.03B | 70.6B |
| Kontekstvindue | 131k | Ikke verificeret: udbyderen har ikke dokumenteret denne påstand. |
| Licens | llama3.1 | llama3.1 |
| Modaliteter | text | text |
| Udgivelsesdato | 23. jul. 2024 | 16. jul. 2024 |
| Sprog | Stærk: en, de, fr, it, pt, es Tilstrækkelig: hi, th | Stærk: en, de, fr, it, pt, es Tilstrækkelig: hi, th |
| Åbne vægte | ja | ja |
| Opgaver | Lav pris, Genfinding (RAG), Resumé, Flersproget support, Kundesupport | Flersproget support, Ræsonnement, Resumé |
Hvor to modeller adskiller sig, viser denne tabel forskellen og stopper. LLM EU offentliggør ikke et vinderbadge uden en dokumenteret score for den opgave, og et manglende tal forbliver manglende i stedet for at blive et nul.
Hvornår man bruger den
Llama 3.1 8B Instruct
Styrker
- 128k-token context window at the 8B size class
- very broad tooling and quantisation support
- published EU21 evaluation against European-focused models
Begrænsninger
- Llama 3.1 Community License, not an OSI licence, with a 700M MAU threshold
- English-centric training data; weaker on smaller EU languages
- released July 2024 and behind current 8B models
Opgaver
Lav pris, Genfinding (RAG), Resumé, Flersproget support, Kundesupport
Llama 3.1 70B Instruct
Styrker
- open weights are published on Hugging Face and can be downloaded without a vendor agreement
- the model page lists 6 languages the European Union publishes in, including en, de, fr, it
- instruction-tuned checkpoint with a chat template in the repository
Begrænsninger
- catalogue only — LLM EU does not run this model, and nothing on this card implies an LLM EU endpoint
- no evaluation has been run by LLM EU
- the published configuration records no context window, so the card carries none
- at 70.6B parameters, self-hosting needs a high-memory accelerator
Opgaver
Opgaver: Resumé, Flersproget support