Llama 3.1 8B Instruct
Souveränität und Hosting
Dieses Modell ist als Referenz katalogisiert. Es wird noch nicht bei LLM EU gehostet, und kein Endpunkt aus erster Hand bedient es hier. Anfragen dazu gehen direkt an den Anbieter, zu dessen eigenen Bedingungen.
Zusammenfassung
Llama 3.1 8B Instruct ist Metas mittleres Instruktionsmodell mit einem Kontextfenster von 128k Token und Unterstützung für Tool-Aufrufe, veröffentlicht unter der Llama-3.1-Community-Lizenz. Diese erlaubt kommerzielle Nutzung, verlangt aber ab 700 Millionen monatlich aktiven Nutzern eine Lizenz von Meta und enthält eine Richtlinie zur zulässigen Nutzung. Es gehört weiterhin zu den am häufigsten heruntergeladenen offenen Checkpoints; in der OpenGPT-X-Evaluation europäischer Sprachen erreicht es 0,563 auf EU21.
Technische Daten
- Anbieter
- Meta (US)
- Kontextfenster
- 131k
- Modellparameter
- 8.03B
- Modalitäten
- text
- Lizenz
- llama3.1 · licence
- Offene Gewichte
- yes
- Veröffentlichungsdatum
- 23. Juli 2024
- Aufgaben
- cheap, rag, summarization, multilingual-support, customer-support
Sprachen
Stark: en, de, fr, it, pt, es
Ausreichend: hi, th
Sprachen
Stark
- en
- de
- fr
- it
- pt
- es
Ausreichend
- hi
- th
Nicht verifiziert: Der Anbieter hat diese Angabe nicht belegt. — a language is listed as strong only where a source claims it; the card links the evidence where one exists.
Wann einsetzen
Stärken
- 128k-token context window at the 8B size class
- very broad tooling and quantisation support
- published EU21 evaluation against European-focused models
Grenzen
- Llama 3.1 Community License, not an OSI licence, with a 700M MAU threshold
- English-centric training data; weaker on smaller EU languages
- released July 2024 and behind current 8B models