Title: Mis on LLM?
Canonical: https://llmeu.com/et/learn/what-is-an-llm/
Markdown mirror: https://llmeu.com/et/learn/what-is-an-llm.md
Machine-readable: https://llmeu.com/llms.txt (index) - https://llmeu.com/llms-full.txt (full catalogue) - https://llmeu.com/llms-catalogue.json

# Mis on LLM?

LLM on programm, mis on treenitud suurtel tekstihulkadel ennustama j%C3%A4rgmist tokenit, v%C3%A4ikest tekstijuppi. See vastab oma kaalude ja sinu saadetud prompti p%C3%B5hjal, mitte andmebaasist, mida ta otsiks.

## L%C3%BChike vastus

LLM on l%C3%BChend ingliskeelsest nimetusest large language model ehk suur keelemudel. See on programm, mis on treenitud v%C3%A4ga suurtel tekstihulkadel %C3%BChe korduva %C3%BClesandega: ennustada j%C3%A4rgmist tokenit, kus token on v%C3%A4ike tekstijupp, ligikaudu s%C3%B5nafragment. Mudel, mis teeb seda piisavalt h%C3%A4sti, suudab vastata k%C3%BCsimusele, t%C3%B5lkida l%C3%B5igu, teha dokumendist kokkuv%C3%B5tte v%C3%B5i kirjutada koodi. See, mis ta ei ole, on otsingumootor, mille taga on andmebaas. Kaalud on treeningu l%C3%B5ppedes fikseeritud ja k%C3%B5ik, mida mudel sinu juhtumi kohta teab, peab saabuma sinu saadetud p%C3%A4ringu sees.

See %C3%BCks definitsioon seletab %C3%A4ra enamiku k%C3%A4itumisest, mida inimesed %C3%BCllatavaks peavad. Mudel v%C3%B5ib toota ladusat ja enesekindlat teksti, mis on vale, sest ladusus ja t%C3%B5de on eri asjad ning treening premeeris neist esimest. Ta v%C3%B5ib vastata samale k%C3%BCsimusele erinevalt s%C3%B5ltuvalt sellest, kuidas sa selle s%C3%B5nastad, sest sinu s%C3%B5nastus on osa tema sisendist.

## Mis on token ja miks arve on tokenites

Token on %C3%BChik, mida mudelid loevad ja kirjutavad. Ligikaudu on see s%C3%B5nafragment: tavalised s%C3%B5nad on %C3%BCks token, pikad v%C3%B5i haruldased s%C3%B5nad ja liits%C3%B5nad jagunevad mitmeks. Tokeniseerimine on p%C3%B5hjus, miks API-kutse hind k%C3%A4ib miljoni tokeni, mitte dokumendi kohta, ja miks 32,768-tokenine kontekstiaken, mille EuroLLM 9B kirja paneb, ei ole sama mis 32,768 s%C3%B5na. Siin kasutatavad hinnangud on meelega t%C3%B6%C3%B6tlemata ja dokumenteeritud: umbes neli t%C3%A4hem%C3%A4rki tokeni kohta ladina kirja puhul, %C3%BCmardatuna %C3%BClespoole. Saksakeelne liits%C3%B5na maksab seega rohkem tokeneid kui selle ingliskeelne vaste, mis on %C3%BCks v%C3%A4heseid kohti, kus sinu t%C3%B6%C3%B6keeles on otseselt m%C3%B5%C3%B5detav hind.

## Kontekstiaken on t%C3%B6%C3%B6m%C3%A4lu, mitte salvestusruum

Kontekstiaken on suurim tokenite arv, mida mudel saab %C3%BChes kutsus arvestada: s%C3%BCsteemis%C3%B5num, kogu vestlus, k%C3%B5ik v%C3%A4lja otsitud l%C3%B5igud ja vastus, mida ta parasjagu kirjutab, kokku liidetuna. See ei ole m%C3%A4lu inimese m%C3%B5ttes ja miski ei kandu iseenesest edasi. Iga kutse saadab vestluse uuesti ja pidev vestlus on rakendus, mis saadab oma vestluskirja uuesti.

Avaldatud aknad erinevad selles kataloogis suurusj%C3%A4rgu v%C3%B5rra. EuroLLM 9B kirjendab 32,768 tokenit ja Mistral 7B Instruct v0.3 sama 32k. Mistral Small 4, Mistral Large 3, Gemma 4 31B, Qwen3.8-27B ja NVIDIA Nemotron 3 Super kirjendavad 262,144 tokenit. Nemotron 3 Superit tasub hoolikalt lugeda: selle konfiguratsioon lubab 262,144 positsiooni, samal ajal kui mudelikaart reklaamib konteksti kuni miljon tokenit, tarnija teatatud RULER-tulemusega 96.30 juures 256k ja 91.75 miljoni juures. Llama 4 Scout 17B-16E Instruct on loetletud 10,485,760 tokeniga, tarnija avaldatud. Aus lugemine on see, et dokumenteeritud konfiguratsiooni v%C3%A4%C3%A4rtus on kontrollitav ja reklaamitud maksimum on v%C3%A4ide koos allikaga, mitte siin tehtud m%C3%B5%C3%B5tmine. Kataloog kirjendab selle vahe.

Suurus ei ole sama mis kasulikkus. Aken on v%C3%A4%C3%A4rt t%C3%A4pselt nii palju, kui palju mudel suudab selle kaugemas otsas veel teha, ja otsingu kvaliteeti p%C3%A4rast teatud kaugust on see osa, mida tarnijad harva keele kaupa avaldavad. Enamiku Euroopa t%C3%B6%C3%B6 jaoks on 32k tokenit mitu dokumenti ja 262k v%C3%A4ike arhiiv.

## Parameetrid: mida %C3%BCtleb number nagu 9B v%C3%B5i 123B

Parameetrite arv on treenitud kaalude suurus, mitte kvaliteedihinne. EuroLLM 9B-l on 9.15 miljardit parameetrit. NVIDIA Nemotron 3 Superil on kokku 123.6 miljardit, millest umbes 12 miljardit on aktiivne iga tokeni kohta, sest see on ekspertide segu, mis suunab iga tokeni l%C3%A4bi osa v%C3%B5rgust. Just see struktuur on p%C3%B5hjus, miks 123B mudel v%C3%B5ib olla tokeni kohta odavam kui sama suur tihe mudel, ja miks parameetrite koguarv ja teenindamise hind on omavahel vaid l%C3%B5dvalt seotud.

See arv otsustab ka, kus mudel saab t%C3%B6%C3%B6tada. 7B v%C3%B5i 9B kontrollpunkt mahub %C3%BChele keskmise taseme kiirendile, mist%C3%B5ttu Teuken 7B ja EuroLLM 9B on mudelid, mida inimesed k%C3%B5igepealt ise majutama hakkavad. 675B kontrollpunkt, n%C3%A4iteks Mistral Large 3, vajab ka kvantiseeritult mitme GPU-ga s%C3%B5lmi. Tarnijad avaldavad kvantiseeritud kontrollpunkte t%C3%A4pselt sel p%C3%B5hjusel ja need on eraldi artefaktid oma kompromissidega.

## Kuidas promptist saab vastus

Tekst l%C3%A4heb sisse tokenitena. Mudel arvutab j%C3%A4rgmise tokeni t%C3%B5en%C3%A4osuse, valib %C3%BChe, lisab selle ja kordab seda, kuni v%C3%A4ljastab stopp-tokeni v%C3%B5i j%C3%B5uab v%C3%A4ljundi %C3%BClempiirini. Vastus genereeritakse vasakult paremale ega ole kirjutamise ajal kordagi t%C3%B5eallikaga kontrollitud.

Juhised muudavad vastust, mist%C3%B5ttu on olemas juhistele h%C3%A4%C3%A4lestatud mudelid. Baasmudel j%C3%A4tkab teksti; juhistele h%C3%A4%C3%A4lestatud mudelit treeniti edasi, et see j%C3%A4rgiks palvet. Iga mudelikaart siin kirjendab, kumb neist kahest see on, ja mitmed m%C3%A4rgivad, et mudel pakub arutlusre%C5%BEiimi, mis toodab pika vahev%C3%A4ljundi. Selle v%C3%A4ljundi eest makstakse nagu iga teise tokeni eest, seega arvesta sellega oma eelarves.

## Miks seda k%C3%BCsimust k%C3%BCsitakse %C3%BCheksas keeles

Sama k%C3%BCsimus saabub kujul llm, was ist ein llm, ce este un llm, llm tarkoittaa, suuri kielimalli, model lingvistic mare ja europ%C3%A4isches llm. Vastus ei muutu keelega. Enamasti inglise keelel treenitud mudel saab inglise keelega k%C3%B5ige paremini hakkama ja Euroopa keelte jaoks ehitatud mudelid treeniti vastupidi. EuroLLM 9B h%C3%B5lmab k%C3%B5iki 24 ametlikku EL-i keelt pluss katalaani, galeegi, t%C3%BCrgi ja veel teisigi, ning Teuken 7B Instruct v0.6 treeniti k%C3%B5igis 24 ametlikus EL-i keeles. Suurus nimes nagu llm 9b on salvestatud parameetrite arv. OpenGPT-X EU21 hindamisel on Teukeni keskmine 0.57, Llama 3.1 8B Instructi 0.563 ja Mistral 7B Instruct v0.3 0.527 samal testikomplektil sellest taga. See on %C3%BCks v%C3%B5rdlusalus, mille projekt ise teatab.

## Mida see t%C3%A4hendab, kui kutsud API-t

Sellest j%C3%A4rgneb kaks tagaj%C3%A4rge. Esiteks, mudeli nimi on versioon, mitte kategooria: mudeli k%C3%BCsimine slugi j%C3%A4rgi kinnitab selle ja vastus teatab, milline mudel tegelikult t%C3%B6%C3%B6tas, selle versiooni, l%C3%B5pp-punkti id, regiooni ja valiku p%C3%B5hjuse. Teiseks, faktid, mille alusel saad tegutseda, on dokumenteeritud faktid. Selles kataloogis on iga parameetrite arvu, litsentsi, kontekstiakna ja v%C3%B5rdlusaluse juures allika-URL, ja v%C3%A4%C3%A4rtus, mida kirjastaja ei ole %C3%B6elnud, kirjendatakse kui null, mitte hinnangulisena. Kohtle numbrit ilma allikata samamoodi, nagu kohtleksid vastust ilma allikata: asjana, mida tuleb kontrollida.

See ongi kogu m%C3%B5te. Suur keelemudel on v%C3%A4ga hea j%C3%A4rgmise tokeni ennustaja piiratud akna ja fikseeritud m%C3%A4luga, pakitud API sisse, mis kas %C3%BCtleb v%C3%B5i ei %C3%BCtle, kus see t%C3%B6%C3%B6tas.

## Korduma kippuvad k%C3%BCsimused

### Kas LLM on sama asi kui vestlusrobot?

Ei. Mudel on see osa, mis ennustab j%C3%A4rgmist tokenit; vestlusrobot on rakendus selle %C3%BCmber, mis hoiab vestluse kirja, saadab selle igal kutsel uuesti ja hoiab enda k%C3%A4es API-v%C3%B5tit. Kontekstiaken kuulub mudelile, vestluse ajalugu kuulub rakendusele.

### Kas LLM otsib asju %C3%BCles?

Ise mitte. Ta vastab oma kaalude ja selle konteksti p%C3%B5hjal, mille sa talle saadad. Dokumentide p%C3%B5hjal vastamiseks peab rakendus l%C3%B5igud v%C3%A4lja otsima ja need prompti panema, mida kirjeldabki otsingu%C3%BClesanne; tavalise vestluskutse taga ei ole %C3%BChtegi korpust.

### Miks vastavad kaks sama parameetrite arvuga mudelit erinevalt?

Parameetrite arv on kaalude suurus, mitte treeningu kvaliteet. Erinevad on andmed, treeningj%C3%A4rgne retsept ja keeleline katvus: EuroLLM 9B treeniti k%C3%B5igi 24 ametliku EL-i keele jaoks, samas kui sama suurusega mudel v%C3%B5ib olla treenitud inglise keelt eelistades. Kaardid kirjendavad keelte loendid ja avaldatud hindamised.

## Vaata ka: