Falcon Mamba 7B Instruct
Posljednji pregled:
Suverenost i hosting
Ovaj model je u katalogu za referencu. Još nije hostan na LLM EU i nijedan endpoint prvog lica ga ovdje ne poslužuje. Zahtjevi za njega idu izravno pružatelju, pod uvjetima tog pružatelja.
Sažetak
Prima tekst i vraća tekst. Falcon Mamba 7B Instruct objavio je Technology Innovation Institute (TII) kao otvorene težine sa 7.3B parametara pod falcon-mamba-7b-license (prilagođena, označena kao "ostalo"). Objavljena konfiguracija ne bilježi kontekstni prozor, stoga ova kartica ne sadrži tu informaciju. Repozitorij je stvoren u srpnju 2024. i zrcaljen je na Hugging Faceu. Kontrolna točka je podešena za instrukcije i isporučuje predložak za chat. Kartica je samo za katalog: LLM EU ne pokreće ovaj model. Izdavač navodi 1 jezik, od kojih je 1 među jezicima na kojima Europska unija objavljuje.
Specifikacije
- Pružatelj
- Technology Innovation Institute (TII) (AE)
- Kontekstni prozor
- Nije provjereno: pružatelj nije dokumentirao ovu tvrdnju.
- Parametri
- 7.3B
- Modaliteti
- text
- Licenca
- other · licence
- Otvoreni utezi
- yes
- Datum izdanja
- 30. srp 2024.
- Zadaci
- Višejezična podrška, Sažimanje
Jezici
Jako: en
Zadovoljavajuće: —
Jako
- en
Zadovoljavajuće
Nije provjereno: pružatelj nije dokumentirao ovu tvrdnju. — a language is listed as strong only where a source claims it; the card links the evidence where one exists.
Kada ga koristiti
Prednosti
- open weights are published on Hugging Face and can be downloaded without a vendor agreement
- at 7.3B parameters it fits on a single accelerator
- the model page lists en
- instruction-tuned checkpoint with a chat template in the repository
Ograničenja
- catalogue only — LLM EU does not run this model, and nothing on this card implies an LLM EU endpoint
- no evaluation has been run by LLM EU
- the falcon-mamba-7b-license (other) licence is a custom agreement whose commercial terms were not established from its published text, so commercial serving is not permitted until a human clears it; the router must not route to it
- the published configuration records no context window, so the card carries none
- at 7.3B parameters, the weights fit on a single modest accelerator
- a state-space model rather than a transformer, so it needs a serving stack that implements the Mamba kernels