Title: %C4%8Cesto postavljana pitanja %E2%80%94 LLM EU Canonical: https://llmeu.com/hr/learn/ Markdown mirror: https://llmeu.com/hr/learn.md Machine-readable: https://llmeu.com/llms.txt (index) - https://llmeu.com/llms-full.txt (full catalogue) - https://llmeu.com/llms-catalogue.json # %C4%8Cesto postavljana pitanja ## Osnove ### [%C5%A0to je kontekstni prozor i %C5%A1to je token?](/hr/learn/context-window-and-tokens/) Token je mali komadi%C4%87 teksta, otprilike dio rije%C4%8Di. Kontekstni prozor je najve%C4%87i broj tokena koje jedan poziv mo%C5%BEe obuhvatiti: upute, dosada%C5%A1nji razgovor, dohva%C4%87ene odlomke i odgovor. ### [LLM vs AI: %C5%A1to je veliki jezi%C4%8Dni model, %C5%A1to zna%C4%8Di llm base i %C5%A1to je Nemotron 3 Super?](/hr/learn/llm-vs-ai/) AI je podru%C4%8Dje; veliki jezi%C4%8Dni model jedna je vrsta modela unutar njega, osnovni LLM nastavlja tekst umjesto da slijedi upute, a Nemotron 3 Super je mje%C5%A1avina eksperata sa 123.6B parametara. ### [%C5%A0to je LLM?](/hr/learn/what-is-an-llm/) LLM je program obu%C4%8Den na velikim koli%C4%8Dinama teksta da predvi%C4%91a sljede%C4%87i token, mali dio teksta. Odgovara iz svojih te%C5%BEina i upita koji mu po%C5%A1aljete, a ne iz baze podataka koju pretra%C5%BEuje. ## Pretra%C5%BEivanje ### [%C5%A0to je LLM retriever i koji vi%C5%A1ejezi%C4%8Dni model za ugra%C4%91ivanje da koristim?](/hr/learn/embeddings-and-vector-search/) Retriever spaja model za ugra%C4%91ivanje, koji tekst pretvara u vektore, s rerankerom koji ocjenjuje odlomke. multilingual-e5-large je pod MIT licencom i radi s odlomcima od 512 tokena, a embeddinggemma-300m prihva%C4%87a 2048. ## Hosting ### [Kako LLM-ovi rade u EU-u?](/hr/learn/how-llms-run-in-the-eu/) Model radi ondje gdje radi krajnja to%C4%8Dka, a redak bilje%C5%BEi njezinu regiju i klasu. Rezidencija je filtar koji se primjenjuje prije bodovanja: ako nijedna krajnja to%C4%8Dka ne zadovoljava rezidenciju, zahtjev vra%C4%87a 409 no_endpoint_for_policy. ## Tro%C5%A1ak ### [Koliko stoji jedan poziv LLM API-ja i %C5%A1to zna%C4%8De brojke iz referentnih vrijednosti?](/hr/learn/llm-cost-and-pricing/) Cijena se %C4%8Dita iz stope koju bilje%C5%BEi redak krajnje to%C4%8Dke, po milijunu tokena na ulazu i na izlazu, uve%C4%87ane za jednu vidljivu naknadu po zahtjevu. Redak koji ne bilje%C5%BEi stopu prikazuje se bez cijene. ## Licence ### [Kako funkcioniraju licence otvorenih modela?](/hr/learn/llm-licences-explained/) Licencija je zabilje%C5%BEeno polje na svakoj kartici modela: SPDX identifikator i poveznica na tekst. Otvorene te%C5%BEine zna%C4%8De da se te%C5%BEine mogu preuzeti, a ne da je komercijalna upotreba dopu%C5%A1tena. ## API ### [%C5%A0to su ograni%C4%8Denja brzine na LLM API-ju?](/hr/learn/llm-rate-limits-explained/) Ograni%C4%8Denje brzine ovdje je gornja granica po skupini unutar fiksnog prozora: 600 poziva po klju%C4%8Du i 1800 po organizaciji svake minute, uz najvi%C5%A1e 8 zahtjeva u tijeku na jednom klju%C4%8Du. ## Rutiranje ### [Kako radi LLM router?](/hr/learn/llm-routing-explained/) Router pretvara zahtjev u kojem nije naveden nijedan stroj u odgovor jedne krajnje to%C4%8Dke. %C4%8Cista funkcija filtrira kandidate prema politici i rezidenciji, boduje ono %C5%A1to preostane i uzima najvi%C5%A1u ocjenu. ## Hostanje ### [Otvorene te%C5%BEine ili API: %C5%A1to bih trebao koristiti?](/hr/learn/open-weights-vs-api/) Otvorene te%C5%BEine zna%C4%8De da se datoteke mogu preuzeti; krajnja to%C4%8Dka zna%C4%8Di da ih netko pokre%C4%87e umjesto vas. Mnoge europske implementacije koriste oboje: API za promjenjivo optere%C4%87enje, a vlastito hostanu kontrolnu to%C4%8Dku za osjetljiv rad. ## Dohva%C4%87anje ### [%C5%A0to je RAG?](/hr/learn/what-is-rag/) RAG je cjevovod, a ne model: va%C5%A1a aplikacija dohva%C4%87a odlomke, a model odgovara na temelju njih. Samo je posljednja faza chat dovr%C5%A1etak; ugra%C4%91ivanje i ponovno rangiranje zasebni su pozivi.