API LLM gratuit: credit de 5 USD pentru fiecare cont nou

Ce sunt cei 5 USD

O organizație nouă pornește cu 5,00 USD de credit de inferență, acordat o singură dată la crearea contului. Este o sumă în registrul de credit, nu o cheie de test și nu un produs separat: apelul care îl consumă este același apel pe care API-ul îl răspunde pentru orice alt credit. Rândurile de endpoint din spatele acestui catalog înregistrează astăzi o rată medie de intrare de aproximativ 0,36 USD per milion de tokenuri, așa că cinci dolari înseamnă, la acea medie, ordinul a paisprezece milioane de tokenuri de intrare. Cifra este o medie peste 325 de rânduri de endpoint active, iar un singur rând costă mai puțin sau mai mult: ratele de intrare înregistrate merg de la 0,00 la 1,50 USD per milion de tokenuri.

Nu se cere niciun card. Nu se facturează nimic pe un card, pentru că plățile cu cardul nu sunt activate deloc pe această implementare. Creditul nu este numerar, nu poate fi transferat către o altă organizație și nu poate fi retras. Nu se reîncarcă automat și nu se reînnoiește: nu există niciun card înregistrat pe care o reînnoire să îl poată debita.

Acordarea este una singură per organizație. Crearea de conturi pentru a o colecta în mod repetat este abuz, iar secțiunea privind utilizarea acceptabilă din termeni acoperă deja acest lucru.

Cum se cheltuiește

Cereți o cheie API în consolă și trimiteți prima cerere. API-ul este compatibil cu OpenAI: un POST către /v1/chat/completions cu o cheie bearer, iar SDK-urile oficiale funcționează odată ce URL-ul de bază este îndreptat aici. Cheia cheltuiește creditul după aceleași verificări de politică ce se aplică oricărei alte cereri — rezidență, liste de furnizori și de modele, plafoane de preț, clase de date, retenție și un buget zilnic. Creditul nu este o ocolire a unei reguli de politică. Dacă politica dvs. refuză un model sau nimic activ nu îl servește, mai mult credit nu face apelul să reușească.

Puteți cheltui creditul și în playground înainte de a scrie vreun cod, ceea ce este suficient pentru a vedea forma răspunsului: câmpurile standard OpenAI plus un bloc care numește id-ul de trace, modelul care a rulat, versiunea sa, id-ul de endpoint, regiunea de inferență, clasa de suveranitate, retenția care s-a aplicat, o estimare de cost și o propoziție care spune de ce a fost ales acel endpoint. Fiecare apel este înregistrat ca un trace pe care îl puteți recupera după id-ul său.

Cinci dolari nu durează la nesfârșit, iar privirea onestă asupra lor este cea a unui buget de lucru. O conversație care schimbă câteva mii de tokenuri costă o fracțiune de cent la tarifele partenerilor. Un prompt lung de recuperare trimis către un model cu o rată înregistrată mare poate consuma câțiva cenți într-un singur apel. Nu există nicio modalitate de a vă cunoaște cifra fără a apela, pentru că prețul aparține rândului de endpoint care vă servește, nu acestei pagini.

325 de modele răspund astăzi

În parte pentru că aici nu se inventează nimic, catalogul este mai mare decât partea lui care răspunde. Citiți acest tabel înainte de a planifica ceva. 325 de modele sunt servite de 325 de endpointuri de partener active pe această implementare astăzi. Celelalte 291 de rânduri sunt doar de catalog: poartă un card cu furnizor, licență, fereastra de context documentată și sursele pentru fiecare afirmație, iar nimic de pe această implementare nu răspunde pentru ele. Un model pe care platforma nu îl poate servi este refuzat pe nume, niciodată răspuns de un stub, așa că creditul gratuit nu poate produce un rezultat care nu s-a întâmplat niciodată.

Modelele care răspund sunt servite prin endpointuri de partener. Acele rânduri rulează în afara UE, printr-un broker, mai degrabă decât pe infrastructură proprie, iar clasa lor de rezidență spune acest lucru. O organizație nouă este creată cu o politică ce permite clasele găzduite în UE, iar endpointurile de partener sunt dezactivate în acea politică implicită: devin eligibile atunci când politica sau cererea le activează. Acel comutator este în consolă și nu este o funcție plătită — este același câmp de politică pe care l-ar schimba o organizație care plătește.

Care sunt limitele și care nu sunt

Politica implicită plafonează cheltuiala la 10,00 USD per organizație per zi, iar atingerea acestui plafon returnează 402 budget_exceeded înainte ca vreun endpoint să fie evaluat. Cele două limite sunt separate, la fel ca răspunsul pentru fiecare. Un plafon de preț elimină un endpoint scump în timpul filtrării, așa că cererea reușește în continuare pe unul mai ieftin. Un buget zilnic oprește cererea. Niciuna nu este o limită de rată și niciuna nu este filtrul de rezidență, care răspunde 409 no_endpoint_for_policy atunci când nimic nu satisface locul în care o cerere poate rula.

Politica cuprinde de asemenea clasele de date permise, listele de furnizori și de modele și regiunile pe care o cerere le poate folosi. Orice se află în afara lor este refuzat pe nume, mai degrabă decât servit altfel. Un apel este limitat și per cheie și per organizație, ceea ce este un plafon diferit de credit și este documentat cu cifrele sale pe pagina de limite.

Nu este un nivel gratuit care se reînnoiește zilnic sau lunar. Este o singură acordare de cinci dolari. Nu este un sold de numerar, nu este transferabil și nu poate fi retras. Nu este o promisiune că fiecare model din catalog poate fi apelat, pentru că 291 de rânduri sunt documentație, nu un endpoint. Nu este o excepție de la o politică: creditul se cheltuiește pe ce permite deja politica și pe nimic altceva. Nu este o majorare a plafonului zilnic. Și nu este o linie de credit deschisă — nu există niciun card înregistrat, deci nu există nimic de depășit și nimic de facturat mai târziu.

Ce se întâmplă când creditul se epuizează

Când cei cinci dolari sunt cheltuiți, soldul arată zero, iar API-ul refuză cererea în loc să o servească. Refuzul numește limita care l-a oprit, iar consola arată ce s-a cheltuit și ce rămâne. Nimic nu este facturat în silență pe un card, nimic nu este servit cu toate acestea și nicio factură nu sosește mai târziu. Pentru că nu există nicio metodă de plată înregistrată, nu există nimic de facturat pentru implementare și nimic de retras din contul dvs.

Puteți păstra contul și cheile. Trace-urile și istoricul de utilizare rămân lizibile, iar un sold poate fi adăugat în consolă de un proprietar sau un administrator. Dacă preferați să vă opriți, contul poate fi șters din consolă, ceea ce îl elimină împreună cu cheile sale.

Ce rămâne adevărat după ce creditul dispare este partea grea a ofertei, iar acest lucru poate fi verificat pe acest site astăzi. Corpurile prompturilor și ale răspunsurilor nu sunt scrise niciodată în baza de date: retenția zero este implementată și este singurul mod implementat, la fiecare cerere, indiferent de soldul pe care îl aveți. Clasele de găzduire din UE și rândurile de partener din afara UE sunt valori separate pe rânduri separate, așa că regiunea în care rulează o cerere este un câmp pe care îl citiți, nu o propoziție în care aveți încredere. Și nimic de aici nu facturează în silență: cererea care nu poate fi plătită este refuzată, cu un cod și un mesaj, în loc să fie răspunsă și facturată.

Un test de cinci minute, în ordine

Dacă vreți să știți dacă această platformă merită următoarea dvs. oră, cheltuiți creditul pe patru verificări, nu pe un singur prompt lung. Creați contul și nu cheltuiți încă nimic. Citiți pagina de modele și notați câte dintre cele 325 sunt admisibile în politica dvs., în forma actuală. Trimiteți o singură cerere scurtă de chat și citiți întregul răspuns, inclusiv propoziția de rutare și câmpul de retenție. Apoi comparați estimarea de cost din acel răspuns cu prețul înregistrat pentru endpointul care a răspuns. Acești patru pași răspund la întrebările pe care o ofertă gratuită le ocolește de obicei: ce rulează de fapt, unde rulează, cât a costat și dacă s-a păstrat ceva.