Сравнение
Llama 3.1 70B Instruct vs Llama 3.1 405B
Поставете два до четири модела един до друг по полетата, които определят внедряването: контекст, цена, регион, лиценз, езици, хостинг и какво е проверено.
| Llama 3.1 70B Instruct | Llama 3.1 405B | |
|---|---|---|
| Доставчик | Meta | Meta |
| Параметри | 70.6B | 405.9B |
| Контекстов прозорец | Непроверено: доставчикът не е документирал това твърдение. | Непроверено: доставчикът не е документирал това твърдение. |
| Лиценз | llama3.1 | llama3.1 |
| Модалности | text | text |
| Дата на издаване | 16.07.2024 г. | 16.07.2024 г. |
| Езици | Силно: en, de, fr, it, pt, es Достатъчно: hi, th | Силно: en, de, fr, it, pt, es Достатъчно: hi, th |
| Отворени тегла | да | да |
| Задачи | Многоезична поддръжка, Разсъждение, Обобщаване | Разсъждение, Многоезична поддръжка |
Когато два модела се различават, тази таблица показва разликата и спира. LLM EU не публикува значка за победител без документиран резултат за тази задача, а липсващата стойност си остава липсваща, вместо да стане нула.
Кога да се използва
Llama 3.1 70B Instruct
Силни страни
- open weights are published on Hugging Face and can be downloaded without a vendor agreement
- the model page lists 6 languages the European Union publishes in, including en, de, fr, it
- instruction-tuned checkpoint with a chat template in the repository
Ограничения
- catalogue only — LLM EU does not run this model, and nothing on this card implies an LLM EU endpoint
- no evaluation has been run by LLM EU
- the published configuration records no context window, so the card carries none
- at 70.6B parameters, self-hosting needs a high-memory accelerator
Задачи
Llama 3.1 405B
Силни страни
- open weights are published on Hugging Face and can be downloaded without a vendor agreement
- the model page lists 6 languages the European Union publishes in, including en, de, fr, it
Ограничения
- catalogue only — LLM EU does not run this model, and nothing on this card implies an LLM EU endpoint
- no evaluation has been run by LLM EU
- the published configuration records no context window, so the card carries none
- at 405.9B parameters, self-hosting needs a multi-node deployment rather than a single server
Задачи
Задачи: Многоезична поддръжка, Разсъждение