LLM EU
Meni
Modeli

Llama 3.1 70B Instruct

Meta

Samo v katalogu Odprte uteži

Nazadnje pregledano:

Suverenost in gostovanje

Samo v katalogu

Ta model je v katalogu za referenco. Na LLM EU še ni gostovan in noben lastni endpoint ga tukaj ne streže. Zahteve zanj gredo neposredno k ponudniku, pod lastnimi pogoji tega ponudnika.

Povzetek

Llama 3.1 70B Instruct je velik odprtokodni jezikovni model podjetja Meta: 70.6B parametrov pod licenco llama3.1. Repozitorij je bil ustvarjen julija 2024 in je zrcaljen na Hugging Face. Sprejema besedilo in vrača besedilo. Kontrolna točka je nastavljena z navodili in vključuje predlogo za klepet. Objavljena konfiguracija ne navaja kontekstnega okna, zato ga ta kartica ne vsebuje. Kartica je samo za katalog: LLM EU ne poganja tega modela. Založnik navaja 8 jezikov, od tega 6 med jeziki, v katerih objavlja Evropska unija.

Specifikacije

Ponudnik
Meta (US)
Kontekstno okno
Ni preverjeno: ponudnik te trditve ni dokumentiral.
Parametri
70.6B
Modalnosti
text
Licenca
llama3.1 · licence
Odprte uteži
yes
Datum izdaje
16. jul. 2024
Naloge
Večjezična podpora, Razmišljanje, Povzemanje

Jeziki

Močno: en, de, fr, it, pt, es

Zadostno: hi, th

Močno

  • en
  • de
  • fr
  • it
  • pt
  • es

Zadostno

  • hi
  • th

Ni preverjeno: ponudnik te trditve ni dokumentiral. — a language is listed as strong only where a source claims it; the card links the evidence where one exists.

Kdaj ga uporabiti

Prednosti

  • open weights are published on Hugging Face and can be downloaded without a vendor agreement
  • the model page lists 6 languages the European Union publishes in, including en, de, fr, it
  • instruction-tuned checkpoint with a chat template in the repository

Omejitve

  • catalogue only — LLM EU does not run this model, and nothing on this card implies an LLM EU endpoint
  • no evaluation has been run by LLM EU
  • the published configuration records no context window, so the card carries none
  • at 70.6B parameters, self-hosting needs a high-memory accelerator