Palyginti
Llama 3.1 70B Instruct vs Llama 3.1 405B
Sudėkite du–keturis modelius greta pagal laukus, kurie lemia diegimą: kontekstas, kaina, regionas, licencija, kalbos, talpinimas ir tai, kas patikrinta.
| Llama 3.1 70B Instruct | Llama 3.1 405B | |
|---|---|---|
| Teikėjas | Meta | Meta |
| Parametrai | 70.6B | 405.9B |
| Konteksto langas | Nepatvirtinta: teikėjas nepagrindė šio teiginio. | Nepatvirtinta: teikėjas nepagrindė šio teiginio. |
| Licencija | llama3.1 | llama3.1 |
| Modalumai | text | text |
| Išleidimo data | 2024-07-16 | 2024-07-16 |
| Kalbos | Stipri: en, de, fr, it, pt, es Pakankama: hi, th | Stipri: en, de, fr, it, pt, es Pakankama: hi, th |
| Atvirieji svoriai | taip | taip |
| Užduotys | Daugiakalbis palaikymas, Mąstymas, Apibendrinimas | Mąstymas, Daugiakalbis palaikymas |
Kai du modeliai skiriasi, ši lentelė parodo skirtumą ir sustoja. LLM EU neskelbia nugalėtojo ženklo be dokumentuoto tos užduoties balo, o trūkstamas skaičius lieka trūkstamas, o ne tampa nuliu.
Kada naudoti
Llama 3.1 70B Instruct
Stiprybės
- open weights are published on Hugging Face and can be downloaded without a vendor agreement
- the model page lists 6 languages the European Union publishes in, including en, de, fr, it
- instruction-tuned checkpoint with a chat template in the repository
Apribojimai
- catalogue only — LLM EU does not run this model, and nothing on this card implies an LLM EU endpoint
- no evaluation has been run by LLM EU
- the published configuration records no context window, so the card carries none
- at 70.6B parameters, self-hosting needs a high-memory accelerator
Užduotys
Llama 3.1 405B
Stiprybės
- open weights are published on Hugging Face and can be downloaded without a vendor agreement
- the model page lists 6 languages the European Union publishes in, including en, de, fr, it
Apribojimai
- catalogue only — LLM EU does not run this model, and nothing on this card implies an LLM EU endpoint
- no evaluation has been run by LLM EU
- the published configuration records no context window, so the card carries none
- at 405.9B parameters, self-hosting needs a multi-node deployment rather than a single server
Užduotys
Užduotys: Daugiakalbis palaikymas, Mąstymas