Eiropas modeļu infrastruktūra

Jūsu politika ir pirmajā vietā.

LLM EU — Large Language Model Europa. Viens katalogs, viens maršrutētājs, viens ES mitinātājs.

Eiropas AI valodas modeļiem: ES mitinātu modeļu katalogs, politikas apzināts maršrutētājs un OpenAI saderīgs API. Viens katalogs. Viens API. Viena jurisdikcija.

Mitināšanas ieraksti apraksta konfigurētos galapunktus, nevis pierāda aktīvu GPU jaudu. Pirms lietošanas pārbaudiet izvietošanas statusu. Statuss →

Beyond the catalogue: the compute swarm is a blueprint, and the engineering blog records what this project decided and measured.

Eiropai nevajag vēl vienu čatbotu. Tai vajag vietu, kur dzīvo tās modeļi.

Eiropas AI valodas modeļiem: ES mitinātu modeļu katalogs, politikas apzināts maršrutētājs un OpenAI saderīgs API. Viens katalogs. Viens API. Viena jurisdikcija.

Nekas neiziet ārpus atļautās kopas. — Kā tas darbojas — nav reāla pieprasījuma. Ja nav piemērota galapunkta, tas ir skaidrs atteikums. Viens pieprasījums OpenAI saderīgs interfeiss Jūsu robežas Rezidence · budžets · atļautie modeļi Piemērots galapunkts Tikai atļautās kopas ietvaros Piemērots galapunkts 200 409 no_endpoint_for_policy
Maršrutēšanas princips — Kā tas darbojas — nav reāla pieprasījuma. Ja nav piemērota galapunkta, tas ir skaidrs atteikums.
617Publicētas modeļu kartītes
29Dokumentēti nodrošinātāji
325LLM EU mitinātie modeļi
4Mitināšanas reģioni

Mitināšanas ieraksti apraksta konfigurētos galapunktus, nevis pierāda aktīvu GPU jaudu. Pirms lietošanas pārbaudiet izvietošanas statusu. Statuss →

Maršrutēšanas princips

Nekas neiziet ārpus atļautās kopas.

Hub — katalogs

Visi modeļi, ko Eiropa izmanto, vienuviet: modeļu kartītes, nodrošinātāji, mitināšanas reģioni, licences, etaloni un to pamatā esošie dokumenti. Kartītes, kuras neesam pārbaudījuši, ir atzīmētas kā nepārbaudītas.

Maršrutētājs — viens API

Viens OpenAI saderīgs galapunkts izvēlas modeli saskaņā ar jūsu politiku. Rezidence, budžets un atļauto saraksti tiek noteikti pirms pieprasījuma iziešanas, un lēmums tiek ierakstīts izsekojumā.

Mitinātājs — ES infrastruktūra

Pirmās puses inference uz infrastruktūras, ko LLM EU pārvalda vai stingri kontrolē, ES reģionos, saskaņā ar ES tiesību aktiem. Atvērtos svarus var mitināt pēc pieprasījuma.

Hub — katalogs → Maršrutētājs — viens API → Mitinātājs — ES infrastruktūra Hub — katalogs contextlicence regionretention Maršrutētājs — viens API Mitinātājs — ES infrastruktūra
Eiropas modeļu infrastruktūra — Visi modeļi, ko Eiropa izmanto, vienuviet: modeļu kartītes, nodrošinātāji, mitināšanas reģioni, licences, etaloni un to pamatā esošie dokumenti. Kartītes, kuras neesam pārbaudījuši, ir atzīmētas kā nepārbaudītas.

Eiropas modeļu katalogs

Modeļi →

AionLabs: Aion 3.5 Mini

OpenRouter
Partner broker — outside the EU

Served through OpenRouter as aion-labs/aion-3.5-mini. Runs outside the EU; the residency class on its endpoint says so.…

Konteksta logs: 262k · Licence: Nav verificēts: pakalpojumu sniedzējs nav dokumentējis šo apgalvojumu. · Tikai katalogā

Pēdējo reizi pārskatīts:

AionLabs: Aion-2.0

OpenRouter
Partner broker — outside the EU

Served through OpenRouter as aion-labs/aion-2.0. Runs outside the EU; the residency class on its endpoint says so.…

Konteksta logs: 131k · Licence: Nav verificēts: pakalpojumu sniedzējs nav dokumentējis šo apgalvojumu. · Tikai katalogā

Pēdējo reizi pārskatīts:

AionLabs: Aion-3.0-Mini

OpenRouter
Partner broker — outside the EU

Served through OpenRouter as aion-labs/aion-3.0-mini. Runs outside the EU; the residency class on its endpoint says so.…

Konteksta logs: 131k · Licence: Nav verificēts: pakalpojumu sniedzējs nav dokumentējis šo apgalvojumu. · Tikai katalogā

Pēdējo reizi pārskatīts:

AionLabs: Aion-RP 1.0 (8B)

OpenRouter
Partner broker — outside the EU

Served through OpenRouter as aion-labs/aion-rp-llama-3.1-8b. Runs outside the EU; the residency class on its endpoint says so.…

Konteksta logs: 33k · Licence: Nav verificēts: pakalpojumu sniedzējs nav dokumentējis šo apgalvojumu. · Tikai katalogā

Pēdējo reizi pārskatīts:

Amazon: Nova 2 Lite

OpenRouter
Partner broker — outside the EU

Served through OpenRouter as amazon/nova-2-lite-v1. Runs outside the EU; the residency class on its endpoint says so.…

Konteksta logs: 1.0M · Licence: Nav verificēts: pakalpojumu sniedzējs nav dokumentējis šo apgalvojumu. · Tikai katalogā

Pēdējo reizi pārskatīts:

Amazon: Nova Lite 1.0

OpenRouter
Partner broker — outside the EU

Served through OpenRouter as amazon/nova-lite-v1. Runs outside the EU; the residency class on its endpoint says so.…

Konteksta logs: 300k · Licence: Nav verificēts: pakalpojumu sniedzējs nav dokumentējis šo apgalvojumu. · Tikai katalogā

Pēdējo reizi pārskatīts:

Open-weight models you can self-host · Models built by European providers · LLMs for German-language text · LLMs for French-language text · Long-context LLMs: 128K tokens and more · LLMs for code: tagged and documented · Models and rerankers for RAG · Vision LLMs: text and image input · Audio LLMs: transcription and speech · Apache-2.0 models: commercial use allowed · Self-hostable open models for products · Catalogue-only models: recorded, not served · Not served yet · EU LLM hosting · LLM hosting in Germany · Datu atrašanās vieta LLM API · Cenas · AI akta paziņojums · Drošība · Pieejamība · Statuss · Izmaiņu žurnāls · Dokumentācija · Biežāk uzdotie jautājumi

Rezidence ir pieprasījuma īpašība

Mitināšana →

Katrs galapunkts ietver reģionu un mitināšanas klasi. Ja jūsu politika atļauj tikai ES un neviens ES galapunkts nevar apkalpot pieprasījumu, pieprasījums neizdodas. Tas netiek klusi nosūtīts citur.

Mitināšanas klasesSuverenitātes klase
de-ber
Berlin, Germany — LLM EU operated
ES īpašumā, ES ekspluatācijā
Uzņēmums un infrastruktūra gan saskaņā ar ES tiesību aktiem, gan ES īpašumā.
de-fra
Frankfurt, Germany — LLM EU operated
ES īpašumā, ES ekspluatācijā
Uzņēmums un infrastruktūra gan saskaņā ar ES tiesību aktiem, gan ES īpašumā.
fr-par
Paris, France — EU operator
ES īpašumā, ES ekspluatācijā
Uzņēmums un infrastruktūra gan saskaņā ar ES tiesību aktiem, gan ES īpašumā.
global
Outside the EU (OpenRouter broker)
Outside the EU — third country
Modelis darbojas ārpus ES. Sasniedzams tikai tad, ja pieprasījums vai politika skaidri pieprasa rezidenci "jebkura".

Izvēlieties uzdevumu, nevis modeli

Uzdevumi →

Aprakstiet, kas jums nepieciešams — transkripcija, vācu juridiskais teksts, koda pārskatīšana, iegultie attēlojumi — un maršrutētājs kartē uzdevumu uz modeļiem, kas tam ir dokumentēti jūsu atļautajos reģionos.

Verificēts nozīmē dokumentēts

Verificēts →

Verificēta kartīte parāda, no kurienes nāk apgalvojums: nodrošinātāja dokumentācija vai licences teksts. Kur mums nav avota, kartīte to norāda. Verificēts ir dokumentācijas statuss, nevis juridisks sertifikāts.

Veidots kopā ar cilvēkiem, kas pārvalda šos modeļus

Kopiena →

Nodrošinātāji labo savas kartītes. Pētnieki sūta novērtējumus, ko mēs varam citēt. Ja kartīte ir nepareiza, labojums ir publisks un ar datumu.

Ātrā sākšana

API — OpenAI-compatible, one base URL.

Lasīt dokumentāciju →

Salīdzināt

Salīdziniet divus līdz četrus modeļus blakus pēc laukiem, kas nosaka izvietošanu: konteksts, cena, reģions, licence, valodas, mitināšana un tas, kas ir verificēts.

Salīdzināt →

Benchmarki

Pārbaudīts apgalvojums LLM EU norāda, no kurienes tas nāk: dokuments, ko varat atvērt, vai vērtība, kas reģistrēta galapunkta rindā.

Benchmarki →