Europos modelių infrastruktūra

Jūsų politika — pirmiausia.

LLM EU — Large Language Model Europa. Vienas katalogas, vienas maršrutizatorius, vienas ES prieglobos teikėjas.

Europos DI kalbos modeliams: ES hostinamų modelių katalogas, į politiką atsižvelgiantis maršrutizatorius ir su OpenAI suderinama API. Vienas katalogas. Viena API. Viena jurisdikcija.

Talpinimo įrašai aprašo sukonfigūruotus galutinius taškus, o ne yra veikiančių GPU pajėgumų įrodymas. Prieš naudodami patikrinkite diegimo būseną. Būsena →

Beyond the catalogue: the compute swarm is a blueprint, and the engineering blog records what this project decided and measured.

Europai nereikia dar vieno pokalbių roboto. Jai reikia vietos, kur gyvena jos modeliai.

Europos DI kalbos modeliams: ES hostinamų modelių katalogas, į politiką atsižvelgiantis maršrutizatorius ir su OpenAI suderinama API. Vienas katalogas. Viena API. Viena jurisdikcija.

Niekas neišeina iš leidžiamo rinkinio. — Kaip tai veikia — tai ne tiesioginė užklausa. Nėra tinkamo galutinio taško — aiškus atsisakymas. Viena užklausa OpenAI suderinama sąsaja Jūsų ribos Duomenų vieta · biudžetas · leidžiami modeliai Tinkamas galutinis taškas Tik leidžiamo rinkinio ribose Tinkamas galutinis taškas 200 409 no_endpoint_for_policy
Maršrutizavimo principas — Kaip tai veikia — tai ne tiesioginė užklausa. Nėra tinkamo galutinio taško — aiškus atsisakymas.
617Paskelbtos modelių kortelės
29Dokumentuoti teikėjai
325LLM EU talpinami modeliai
4Talpinimo regionai

Talpinimo įrašai aprašo sukonfigūruotus galutinius taškus, o ne yra veikiančių GPU pajėgumų įrodymas. Prieš naudodami patikrinkite diegimo būseną. Būsena →

Maršrutizavimo principas

Niekas neišeina iš leidžiamo rinkinio.

Hub — katalogas

Kiekvienas Europoje veikiantis modelis vienoje vietoje: modelių kortelės, teikėjai, prieglobos regionai, licencijos, etaloniniai testai ir juos pagrindžiantys dokumentai. Kortelės, kurių nepatikrinome, pažymėtos kaip nepatvirtintos.

Maršrutizatorius — viena API

Vienas su OpenAI suderinamas galutinis taškas parenka modelį pagal jūsų politiką. Duomenų vieta, biudžetas ir leidžiamų modelių sąrašai nustatomi prieš užklausai paliekant sistemą, o sprendimas įrašomas į pėdsaką.

Host — ES infrastruktūra

Pirmosios šalies inferencija LLM EU valdomoje ar griežtai kontroliuojamoje infrastruktūroje, ES regionuose, pagal ES teisę. Atvirieji modelių svoriai gali būti talpinami pagal užklausą.

Hub — katalogas → Maršrutizatorius — viena API → Host — ES infrastruktūra Hub — katalogas contextlicence regionretention Maršrutizatorius — viena API Host — ES infrastruktūra
Europos modelių infrastruktūra — Kiekvienas Europoje veikiantis modelis vienoje vietoje: modelių kortelės, teikėjai, prieglobos regionai, licencijos, etaloniniai testai ir juos pagrindžiantys dokumentai. Kortelės, kurių nepatikrinome, pažymėtos kaip nepatvirtintos.

Europos modelių katalogas

Modeliai →

AionLabs: Aion 3.5 Mini

OpenRouter
Partner broker — outside the EU

Served through OpenRouter as aion-labs/aion-3.5-mini. Runs outside the EU; the residency class on its endpoint says so.…

Konteksto langas: 262k · Licencija: Nepatvirtinta: teikėjas nepagrindė šio teiginio. · Tik kataloge

Paskutinį kartą peržiūrėta:

AionLabs: Aion-2.0

OpenRouter
Partner broker — outside the EU

Served through OpenRouter as aion-labs/aion-2.0. Runs outside the EU; the residency class on its endpoint says so.…

Konteksto langas: 131k · Licencija: Nepatvirtinta: teikėjas nepagrindė šio teiginio. · Tik kataloge

Paskutinį kartą peržiūrėta:

AionLabs: Aion-3.0-Mini

OpenRouter
Partner broker — outside the EU

Served through OpenRouter as aion-labs/aion-3.0-mini. Runs outside the EU; the residency class on its endpoint says so.…

Konteksto langas: 131k · Licencija: Nepatvirtinta: teikėjas nepagrindė šio teiginio. · Tik kataloge

Paskutinį kartą peržiūrėta:

AionLabs: Aion-RP 1.0 (8B)

OpenRouter
Partner broker — outside the EU

Served through OpenRouter as aion-labs/aion-rp-llama-3.1-8b. Runs outside the EU; the residency class on its endpoint says so.…

Konteksto langas: 33k · Licencija: Nepatvirtinta: teikėjas nepagrindė šio teiginio. · Tik kataloge

Paskutinį kartą peržiūrėta:

Amazon: Nova 2 Lite

OpenRouter
Partner broker — outside the EU

Served through OpenRouter as amazon/nova-2-lite-v1. Runs outside the EU; the residency class on its endpoint says so.…

Konteksto langas: 1.0M · Licencija: Nepatvirtinta: teikėjas nepagrindė šio teiginio. · Tik kataloge

Paskutinį kartą peržiūrėta:

Amazon: Nova Lite 1.0

OpenRouter
Partner broker — outside the EU

Served through OpenRouter as amazon/nova-lite-v1. Runs outside the EU; the residency class on its endpoint says so.…

Konteksto langas: 300k · Licencija: Nepatvirtinta: teikėjas nepagrindė šio teiginio. · Tik kataloge

Paskutinį kartą peržiūrėta:

Open-weight models you can self-host · Models built by European providers · LLMs for German-language text · LLMs for French-language text · Long-context LLMs: 128K tokens and more · LLMs for code: tagged and documented · Models and rerankers for RAG · Vision LLMs: text and image input · Audio LLMs: transcription and speech · Apache-2.0 models: commercial use allowed · Self-hostable open models for products · Catalogue-only models: recorded, not served · Not served yet · EU LLM hosting · LLM hosting in Germany · Duomenų buvimo vieta LLM API · Kainos · Pranešimas apie AI aktą · Saugumas · Prieinamumas · Būsena · Pakeitimų žurnalas · Dokumentai · Dažniausiai užduodami klausimai

Rezidentiškumas yra užklausos savybė

Hostingas →

Kiekvienas galinis taškas turi regioną ir talpinimo klasę. Jei jūsų politika leidžia tik ES ir joks ES galinis taškas negali aptarnauti užklausos, užklausa nepavyksta. Ji nėra tyliai siunčiama kur nors kitur.

Hostingo klasėsSuvereniteto klasė
de-ber
Berlin, Germany — LLM EU operated
ES priklausantis, ES operuojamas
Įmonė ir infrastruktūra veikia pagal ES teisę ir priklauso ES.
de-fra
Frankfurt, Germany — LLM EU operated
ES priklausantis, ES operuojamas
Įmonė ir infrastruktūra veikia pagal ES teisę ir priklauso ES.
fr-par
Paris, France — EU operator
ES priklausantis, ES operuojamas
Įmonė ir infrastruktūra veikia pagal ES teisę ir priklauso ES.
global
Outside the EU (OpenRouter broker)
Outside the EU — third country
Modelis veikia už ES ribų. Pasiekiamas tik tada, kai užklausa ar politika aiškiai prašo rezidencijos „bet kur“.

Pasirinkite užduotį, o ne modelį

Užduotys →

Apibūdinkite, ko jums reikia — transkripcija, vokiečių kalbos teisinis tekstas, kodo peržiūra, įterpiniai — ir maršrutizatorius priskiria užduotį modeliams, kurie yra dokumentuoti jai jūsų leidžiamuose regionuose.

Patikrinta reiškia dokumentuota

Patvirtinta →

Patikrinta kortelė parodo, iš kur kyla teiginys: teikėjo dokumentacija arba licencijos tekstas. Kai neturime šaltinio, kortelė tai nurodo. Patikrinta yra dokumentacijos būsena, o ne teisinis sertifikatas.

Sukurta kartu su žmonėmis, kurie valdo šiuos modelius

Bendruomenė →

Teikėjai taiso savo pačių korteles. Tyrėjai siunčia vertinimus, kuriuos galime cituoti. Jei kortelė neteisinga, pataisymas yra viešas ir datuotas.

Greitoji pradžia

API — OpenAI-compatible, one base URL.

Skaitykite dokumentaciją →

Palyginti

Sudėkite du–keturis modelius greta pagal laukus, kurie lemia diegimą: kontekstas, kaina, regionas, licencija, kalbos, talpinimas ir tai, kas patikrinta.

Palyginti →

Lyginamieji testai

Patikrintas teiginys LLM EU nurodo, iš kur jis kilęs: dokumentą, kurį galite atidaryti, arba reikšmę, įrašytą galinio taško eilutėje.

Lyginamieji testai →