LLM API zdarma: kredit ve výši $5 pro každý nový účet

Co představuje $5

Nová organizace začíná s 5.00 USD kreditu na inference, přiděleného jednou při vytvoření účtu. Je to částka v knize kreditů, ne zkušební klíč a ne samostatný produkt: volání, které ho utratí, je totéž volání, které API obslouží pro jakýkoli jiný kredit. Řádky koncových bodů za tímto katalogem dnes vykazují průměrnou vstupní sazbu kolem 0.36 USD za milion tokenů, takže pět dolarů je při tomto průměru řádově čtrnáct milionů vstupních tokenů. Údaj je průměrem přes 325 aktivních řádků koncových bodů a jednotlivý řádek stojí méně nebo více: zaznamenané vstupní sazby se pohybují od 0.00 do 1.50 USD za milion tokenů.

Karta se nevyžaduje. Ani se na žádnou neúčtuje, protože platby kartou nejsou na tomto nasazení vůbec povolené. Kredit není hotovost, nelze jej převést na jinou organizaci ani vybrat. Nedobíjí se automaticky a neobnovuje se: není uložená žádná karta, kterou lze při obnovení zatížit.

Přidělení je jedno na organizaci. Zakládat účty, aby se vybíralo opakovaně, je zneužití, a oddíl o přijatelném užívání v podmínkách to už pokrývá.

Jak ho utratit

Vyžádejte si API klíč v konzoli a pošlete první požadavek. API je kompatibilní s OpenAI: jeden POST na /v1/chat/completions s klíčem typu bearer a oficiální SDK fungují, jakmile se základní URL nastaví sem. Klíč utrácí kredit až po stejných kontrolách politiky, jaké platí pro každý jiný požadavek — rezidence, seznamy poskytovatelů a modelů, cenové stropy, datové třídy, uchovávání a denní rozpočet. Kredit není obcházení pravidla politiky. Pokud vaše politika model odmítá nebo ho nic aktivního neobsluhuje, větší kredit volání neprosadí.

Kredit můžete utratit i v playgroundu, ještě než napíšete řádek kódu, a to stačí, abyste viděli podobu odpovědi: standardní pole OpenAI plus jeden blok, který uvádí ID trasování, model, který běžel, jeho verzi, ID koncového bodu, oblast inference, třídu suverenity, uplatněné uchovávání, odhad nákladů a jednu větu vysvětlující, proč byl zvolen právě tento koncový bod. Každé volání se zaznamená jako trasování, které dohledáte podle jeho ID.

Pět dolarů nevydrží věčně a poctivý pohled na ně je provozní rozpočet. Chat, který vymění pár tisíc tokenů, stojí při partnerských sazbách zlomek centu. Dlouhý retrieval prompt poslaný modelu s vysokou zaznamenanou sazbou může v jednom volání spotřebovat několik centů. Své číslo se nedozvíte, aniž byste zavolali, protože cena patří řádku koncového bodu, který vás obsluhuje, a ne této stránce.

Dnes odpovídá 325 modelů

Částečně proto, že se tu nic nevymýšlí, je katalog větší než ta jeho část, která odpovídá. Přečtěte si tuto tabulku, než něco naplánujete. 325 modelů dnes na tomto nasazení obsluhuje 325 aktivních partnerských koncových bodů. Zbývajících 291 řádků je pouze v katalogu: nesou kartu s poskytovatelem, licencí, doloženým kontextovým oknem a zdroji pro každé tvrzení, a nic na tomto nasazení za ně neodpovídá. Model, který platforma neumí obsloužit, je odmítnut jménem, nikdy ho nezodpoví atrapa, takže kredit zdarma nemůže vyrobit výstup, který se nikdy nestal.

Modely, které odpovídají, obsluhují partnerské koncové body. Tyto řádky běží mimo EU přes brokera, ne na vlastní infrastruktuře, a jejich třída rezidence to uvádí. Nová organizace vzniká s politikou, která povoluje třídy hostované v EU, a partnerské koncové body jsou v této výchozí politice vypnuté: způsobilými se stanou, když je politika nebo požadavek zapne. Přepínač je v konzoli a není to placená funkce — je to stejné pole politiky, jaké mění i platící organizace.

Jaké limity to jsou a jaké ne

Výchozí politika omezuje útratu na 10.00 USD na organizaci a den a při dosažení tohoto stropu API vrátí 402 budget_exceeded, ještě než se ohodnotí jakýkoli koncový bod. Ty dva limity jsou oddělené a oddělená je i odpověď na každý z nich. Cenový strop vyřadí drahý koncový bod už při filtrování, takže požadavek stejně uspěje na levnějším. Denní rozpočet požadavek zastaví. Ani jeden není limitem rychlosti a ani jeden není filtrem rezidence, který odpovídá 409 no_endpoint_for_policy, když nic nevyhovuje tomu, kde smí požadavek běžet.

Politika také nese povolené datové třídy, seznamy poskytovatelů a modelů a oblasti, které požadavek smí použít. Cokoli mimo ně je odmítnuto jménem, ne obslouženo jinak. Volání je omezeno i na klíč a na organizaci, což je jiný strop než kredit a je zdokumentovaný i se svými čísly na stránce s limity.

Není to bezplatná úroveň, která se obnovuje denně nebo měsíčně. Je to jedno přidělení pěti dolarů. Není to hotovostní zůstatek, není převoditelné ani vybratelné. Není to slib, že každý model v katalogu je volatelný, protože 291 řádků je dokumentace, ne koncový bod. Není to výjimka z politiky: kredit lze utratit za to, co politika už povoluje, a za nic jiného. Není to navýšení denního stropu. A není to otevřený úvěrový rámec — žádná karta není uložená, takže není co přečerpat a co později vyfakturovat.

Co se stane, když kredit dojde

Když je pět dolarů utraceno, zůstatek ukazuje nulu a API požadavek odmítne, místo aby ho obsloužilo. Odmítnutí uvede limit, který ho zastavil, a konzole ukáže, co se utratilo a co zbývá. Nic se potichu neúčtuje na kartu, nic se stejně neobslouží a žádná faktura později nedorazí. Protože není uložen žádný způsob platby, není co na nasazení účtovat ani co z vašeho účtu strhnout.

Účet i klíče si můžete nechat. Vaše trasování a historie užívání zůstanou čitelné a zůstatek může v konzoli doplnit vlastník nebo administrátor. Pokud raději skončíte, účet lze z konzole smazat, čímž zmizí i jeho klíče.

Co platí i po vyčerpání kreditu, je na této nabídce to těžké, a můžete si to na tomto webu ověřit ještě dnes. Těla promptů a dokončení se nikdy neukládají do databáze: nulové uchovávání je implementované a je to jediný implementovaný režim, u každého požadavku, ať držíte jakýkoli zůstatek. Třídy hostování v EU a partnerské řádky mimo EU jsou oddělené hodnoty na oddělených řádcích, takže oblast, ve které požadavek běží, je pole, které si přečtete, a ne věta, které věříte. A nic tu neúčtuje potichu: požadavek, který nelze zaplatit, je odmítnut, s kódem a zprávou, místo aby byl obsloužen a naúčtován.

Pětiminutový test, v pořadí

Jestli chcete vědět, zda si tato platforma zaslouží vaši další hodinu, utraťte kredit na čtyři kontroly, ne na jeden dlouhý prompt. Založte účet a zatím nic neutrácejte. Přečtěte si stránku s modely a poznamenejte si, kolik z těch 325 je přípustných podle vaší politiky tak, jak je. Pošlete jeden krátký chatovací požadavek a přečtěte si celou odpověď, včetně věty o směrování a pole uchovávání. Pak porovnejte odhad nákladů v této odpovědi s cenou zaznamenanou pro koncový bod, který odpověděl. Ty čtyři kroky odpovídají na otázky, kterým se nabídka zdarma obvykle vyhýbá: co vlastně běží, kde to běží, co to stálo a jestli se něco uchovalo.