Palyginti
Llama 3.1 8B Instruct vs Llama 3.1 405B
Sudėkite du–keturis modelius greta pagal laukus, kurie lemia diegimą: kontekstas, kaina, regionas, licencija, kalbos, talpinimas ir tai, kas patikrinta.
| Llama 3.1 8B Instruct | Llama 3.1 405B | |
|---|---|---|
| Teikėjas | Meta | Meta |
| Parametrai | 8.03B | 405.9B |
| Konteksto langas | 131k | Nepatvirtinta: teikėjas nepagrindė šio teiginio. |
| Licencija | llama3.1 | llama3.1 |
| Modalumai | text | text |
| Išleidimo data | 2024-07-23 | 2024-07-16 |
| Kalbos | Stipri: en, de, fr, it, pt, es Pakankama: hi, th | Stipri: en, de, fr, it, pt, es Pakankama: hi, th |
| Atvirieji svoriai | taip | taip |
| Užduotys | Maža kaina, Atkūrimas (RAG), Apibendrinimas, Daugiakalbis palaikymas, Klientų aptarnavimas | Mąstymas, Daugiakalbis palaikymas |
Kai du modeliai skiriasi, ši lentelė parodo skirtumą ir sustoja. LLM EU neskelbia nugalėtojo ženklo be dokumentuoto tos užduoties balo, o trūkstamas skaičius lieka trūkstamas, o ne tampa nuliu.
Kada naudoti
Llama 3.1 8B Instruct
Stiprybės
- 128k-token context window at the 8B size class
- very broad tooling and quantisation support
- published EU21 evaluation against European-focused models
Apribojimai
- Llama 3.1 Community License, not an OSI licence, with a 700M MAU threshold
- English-centric training data; weaker on smaller EU languages
- released July 2024 and behind current 8B models
Užduotys
Maža kaina, Atkūrimas (RAG), Apibendrinimas, Daugiakalbis palaikymas, Klientų aptarnavimas
Llama 3.1 405B
Stiprybės
- open weights are published on Hugging Face and can be downloaded without a vendor agreement
- the model page lists 6 languages the European Union publishes in, including en, de, fr, it
Apribojimai
- catalogue only — LLM EU does not run this model, and nothing on this card implies an LLM EU endpoint
- no evaluation has been run by LLM EU
- the published configuration records no context window, so the card carries none
- at 405.9B parameters, self-hosting needs a multi-node deployment rather than a single server
Užduotys
Užduotys: Daugiakalbis palaikymas