Comparáid
Llama 3.1 8B Instruct vs Llama 3.1 405B
Cuir dhá nó ceithre mhúnla i gcomparáid ar na réimsí a chinneann imscaradh: comhthéacs, praghas, réigiún, ceadúnas, teangacha, óstáil, agus cad atá fíoraithe.
| Llama 3.1 8B Instruct | Llama 3.1 405B | |
|---|---|---|
| Soláthraí | Meta | Meta |
| Paraiméadair | 8.03B | 405.9B |
| Fuinneog comhthéacs | 131k | Gan fhíorú: níl an t-éileamh seo doiciméadaithe ag an soláthraí. |
| Ceadúnas | llama3.1 | llama3.1 |
| Módlachtaí | text | text |
| Dáta scaoilte | 23 Iúil 2024 | 16 Iúil 2024 |
| Teangacha | Láidir: en, de, fr, it, pt, es Sásúil: hi, th | Láidir: en, de, fr, it, pt, es Sásúil: hi, th |
| Meáchain oscailte | tá | tá |
| Tascanna | Costas íseal, Aisghabháil (RAG), Achoimriú, Tacaíocht ilteangach, Tacaíocht do chustaiméirí | Réasúnaíocht, Tacaíocht ilteangach |
Nuair a bhíonn dhá mhúnla difriúil, taispeánann an tábla seo an difríocht agus stopann sé. Ní fhoilsíonn LLM EU suaitheantas buaiteora gan scór doiciméadaithe don tasc sin, agus fanann figiúr atá ar iarraidh ar iarraidh seachas a bheith ina nialas.
Cathain a úsáidtear é
Llama 3.1 8B Instruct
Láidreachtaí
- 128k-token context window at the 8B size class
- very broad tooling and quantisation support
- published EU21 evaluation against European-focused models
Teorainneacha
- Llama 3.1 Community License, not an OSI licence, with a 700M MAU threshold
- English-centric training data; weaker on smaller EU languages
- released July 2024 and behind current 8B models
Tascanna
Costas íseal, Aisghabháil (RAG), Achoimriú, Tacaíocht ilteangach, Tacaíocht do chustaiméirí
Llama 3.1 405B
Láidreachtaí
- open weights are published on Hugging Face and can be downloaded without a vendor agreement
- the model page lists 6 languages the European Union publishes in, including en, de, fr, it
Teorainneacha
- catalogue only — LLM EU does not run this model, and nothing on this card implies an LLM EU endpoint
- no evaluation has been run by LLM EU
- the published configuration records no context window, so the card carries none
- at 405.9B parameters, self-hosting needs a multi-node deployment rather than a single server
Tascanna
Tascanna: Tacaíocht ilteangach