Σύγκριση
Llama 3.1 8B Instruct vs Llama 3.1 405B
Βάλτε δύο έως τέσσερα μοντέλα δίπλα-δίπλα στα πεδία που καθορίζουν μια ανάπτυξη: συμφραζόμενα, τιμή, περιοχή, άδεια, γλώσσες, φιλοξενία και τι είναι επαληθευμένο.
| Llama 3.1 8B Instruct | Llama 3.1 405B | |
|---|---|---|
| Πάροχος | Meta | Meta |
| Παράμετροι | 8.03B | 405.9B |
| Παράθυρο συμφραζομένων | 131k | Μη επαληθευμένο: ο πάροχος δεν έχει τεκμηριώσει αυτόν τον ισχυρισμό. |
| Άδεια | llama3.1 | llama3.1 |
| Τροπικότητες | text | text |
| Ημερομηνία κυκλοφορίας | 23 Ιουλ 2024 | 16 Ιουλ 2024 |
| Γλώσσες | Ισχυρή: en, de, fr, it, pt, es Επαρκής: hi, th | Ισχυρή: en, de, fr, it, pt, es Επαρκής: hi, th |
| Ανοιχτά βάρη | ναι | ναι |
| Εργασίες | Χαμηλό κόστος, Ανάκτηση (RAG), Περίληψη, Πολύγλωσση υποστήριξη, Υποστήριξη πελατών | Συλλογιστική, Πολύγλωσση υποστήριξη |
Όπου δύο μοντέλα διαφέρουν, αυτός ο πίνακας δείχνει τη διαφορά και σταματά. Το LLM EU δεν δημοσιεύει σήμα νικητή χωρίς τεκμηριωμένη βαθμολογία για αυτήν την εργασία, και μια τιμή που λείπει παραμένει απούσα αντί να γίνει μηδέν.
Πότε να το χρησιμοποιήσετε
Llama 3.1 8B Instruct
Πλεονεκτήματα
- 128k-token context window at the 8B size class
- very broad tooling and quantisation support
- published EU21 evaluation against European-focused models
Περιορισμοί
- Llama 3.1 Community License, not an OSI licence, with a 700M MAU threshold
- English-centric training data; weaker on smaller EU languages
- released July 2024 and behind current 8B models
Εργασίες
Χαμηλό κόστος, Ανάκτηση (RAG), Περίληψη, Πολύγλωσση υποστήριξη, Υποστήριξη πελατών
Llama 3.1 405B
Πλεονεκτήματα
- open weights are published on Hugging Face and can be downloaded without a vendor agreement
- the model page lists 6 languages the European Union publishes in, including en, de, fr, it
Περιορισμοί
- catalogue only — LLM EU does not run this model, and nothing on this card implies an LLM EU endpoint
- no evaluation has been run by LLM EU
- the published configuration records no context window, so the card carries none
- at 405.9B parameters, self-hosting needs a multi-node deployment rather than a single server
Εργασίες
Εργασίες: Πολύγλωσση υποστήριξη