Tasuta LLM API: $5 krediiti igale uuele kontole

Mida need $5 tähendavad

Uus organisatsioon alustab 5.00 USD inference-krediidiga, mis antakse üks kord konto loomisel. See on summa krediidi pearaamatus, mitte proovivõti ja mitte eraldi toode: päring, mis selle ära kulutab, on sama päring, millele API vastab iga muu krediidi eest. Selle kataloogi taga olevad lõpp-punkti read näitavad täna keskmist sisendmäära umbes 0.36 USD miljoni tokeni kohta, seega viis dollarit on selle keskmise juures suurusjärgus neliteist miljonit sisendtokenit. See arv on keskmine 325 elava lõpp-punkti rea kohta ja üksik rida maksab vähem või rohkem: kirja pandud sisendmäärad ulatuvad 0.00 kuni 1.50 USD-ni miljoni tokeni kohta.

Kaarti ei küsita. Sellelt ei võeta midagi maha, sest kaardimaksed ei ole selles juurutuses üldse lubatud. Krediit ei ole sularaha, seda ei saa teisele organisatsioonile üle kanda ega välja võtta. See ei täitu automaatselt ega uuene: failis ei ole ühtegi kaarti, mida uuendamine saaks koormata.

Toetus antakse üks kord organisatsiooni kohta. Kontode loomine selle korduvaks kogumiseks on kuritarvitamine ja tingimuste lubatud kasutamise jaotis katab selle juba ära.

Kuidas seda kulutada

Küsige konsoolis API-võtit ja saatke esimene päring. API on OpenAI-ga ühilduv: üks POST aadressile /v1/chat/completions bearer-võtmega, ja ametlikud SDK-d töötavad, kui baas-URL osutab siia. Võti kulutab krediiti pärast samu poliitikakontrolle, mis kehtivad iga teise päringu puhul — residents, tarnijate ja mudelite loendid, hinnapiirid, andmeklassid, säilitamine ja päevaeelarve. Krediit ei ole poliitikareegli möödasõit. Kui teie poliitika keeldub mudelist või ei teeninda seda ükski elav lõpp-punkt, ei tee suurem krediit päringut õnnestunuks.

Krediiti saate kulutada ka mänguväljakul enne koodi kirjutamist; sellest piisab vastuse kuju nägemiseks: standardsed OpenAI väljad pluss üks plokk, mis nimetab jälje id, jooksutatud mudeli, selle versiooni, lõpp-punkti id, inference'i piirkonna, suveräänsusklassi, rakendatud säilitamise, kuluhinnangu ja ühe lause, mis selgitab, miks just see lõpp-punkt valiti. Iga päring salvestatakse jäljena, mille saab id järgi tagasi tuua.

Viis dollarit ei kesta igavesti ja aus vaade sellele on töine eelarve. Vestlus, milles vahetatakse paar tuhat tokenit, maksab partneri määrade juures senti murdosa. Pikk otsingupäringu tekst mudelile, millel on kõrge kirja pandud määr, võib ühe päringuga ära kulutada mitu senti. Oma arvu ei ole võimalik teada ilma päringut tegemata, sest hind kuulub lõpp-punkti reale, mis teid teenindab, mitte sellele lehele.

325 mudelit vastavad täna

Osalt seetõttu, et siin ei mõelda välja midagi, on kataloog suurem kui see osa sellest, mis vastab. Lugege seda tabelit enne, kui midagi plaanite. Täna teenindavad selles juurutuses 325 mudelit 325 elavat partneri lõpp-punkti. Ülejäänud 291 rida on ainult kataloogis: neil on kaart tarnija, litsentsi, dokumenteeritud kontekstiakna ja iga väite allikatega, ja ükski selle juurutuse lõpp-punkt ei vasta nende eest. Mudel, mida platvorm ei saa teenindada, lükatakse tagasi nimepidi, mitte ei vastata selle eest asendusvastusega, seega ei saa tasuta krediit tekitada väljundit, mida kunagi ei toimunud.

Mudelid, mis tõesti vastavad, on teenindatud partneri lõpp-punktide kaudu. Need read töötavad väljaspool EL-i, maakleri kaudu, mitte esmaosaluse infrastruktuuril, ja nende residentsiklass ütleb seda. Uus organisatsioon luuakse poliitikaga, mis lubab EL-is majutatud klasse, ja partneri lõpp-punktid on selles vaikimisi poliitikas välja lülitatud: need muutuvad kõlblikuks, kui poliitika või päring need sisse lülitab. See lüliti on konsoolis ja see ei ole tasuline funktsioon — see on sama poliitikaväli, mida muudaks ka maksav organisatsioon.

Millised on piirid ja millised need ei ole

Vaikimisi poliitika piirab kulutusi 10.00 USD-ni organisatsiooni kohta päevas ja selle piiri saavutamisel tagastatakse 402 budget_exceeded enne, kui ühtegi lõpp-punkti hinnatakse. Mõlemad piirid on eraldi ja ka vastus kummagi kohta on eraldi. Hinnapiir eemaldab kalli lõpp-punkti juba filtreerimise ajal, seega õnnestub päring siiski odavama peal. Päevaeelarve peatab päringu. Kumbki ei ole päringusageduse piirang ja kumbki ei ole residentsifilter, mis vastab 409 no_endpoint_for_policy, kui miski ei vasta sellele, kus päring tohib töötada.

Poliitika kannab ka lubatud andmeklasse, tarnijate ja mudelite loendeid ning piirkondi, mida päring tohib kasutada. Kõik väljaspool neid lükatakse tagasi nimepidi, mitte ei teenindata teisiti. Päring on piiratud ka võtme ja organisatsiooni kaupa; see on krediidist erinev ülempiir ja see on oma numbritega dokumenteeritud piirangute lehel.

See ei ole tasuta tase, mis uueneb iga päev või iga kuu. See on üks viie dollari suurune toetus. See ei ole sularahajääk, ei ole ülekantav ega väljavõetav. See ei ole lubadus, et iga kataloogi mudel on kutsutav, sest 291 rida on dokumentatsioon, mitte lõpp-punkt. See ei ole poliitikast tehtud erand: krediiti saab kulutada sellele, mida poliitika juba lubab, ja mitte millelegi muule. See ei suurenda päevast ülempiiri. Ja see ei ole tähtajatu krediidilimiit — kaarti ei ole failis, seega ei ole midagi üle tõmmata ega hiljem arvele lisada.

Mis juhtub, kui krediit otsa saab

Kui viis dollarit on kulutatud, näitab jääk nulli ja API lükkab päringu tagasi, mitte ei teeninda seda. Keeldumine nimetab piiri, mis selle peatas, ja konsool näitab, mis kulutati ja mis jäi. Midagi ei võeta vaikselt kaardilt maha, midagi ei teenindata ikkagi ja ükski arve ei saabu hiljem. Kuna maksevahendit ei ole failis, ei ole juurutusel midagi koormata ega teie kontolt midagi maha võtta.

Võite konto ja võtmed alles jätta. Teie jäljed ja kasutusajalugu jäävad loetavaks ning jääki saab konsoolis lisada omanik või administraator. Kui eelistate lõpetada, saab konto konsoolis kustutada — koos oma võtmetega.

See, mis jääb kehtima pärast krediidi otsasaamist, on pakkumise raske osa, ja seda saate täna sellel saidil kontrollida. Päringu ja vastuse sisu ei kirjutata kunagi andmebaasi: nullsäilitamine on rakendatud ja see on ainus rakendatud režiim, iga päringu puhul, olenemata teie jäägist. EL-i majutusklassid ja väljaspool EL-i asuvad partneri read on eraldi väärtused eraldi ridadel, seega piirkond, kus päring töötab, on väli, mida loete, mitte lause, mida usute. Ja miski siin ei esita arveid vaikselt: päring, mille eest ei saa maksta, lükatakse tagasi koodi ja teatega, mitte ei vastata ja ei koormata.

Viie minuti kontroll, järjekorras

Kui soovite teada, kas see platvorm on väärt teie järgmist tundi, kulutage krediit neljale kontrollile, mitte ühele pikkale päringule. Looge konto ja ärge kulutage veel midagi. Lugege mudelite lehte ja pange tähele, kui palju 325 mudelist on teie praeguse poliitika järgi lubatud. Saatke üks lühike vestluspäring ja lugege kogu vastust, sealhulgas marsruutimislauset ja säilitamisvälja. Seejärel võrrelge selle vastuse kuluhinnangut hinnaga, mis on kirjas lõpp-punktil, mis vastas. Need neli sammu vastavad küsimustele, mida tasuta pakkumine tavaliselt väldib: mis tegelikult töötab, kus see töötab, kui palju see maksis ja kas midagi jäeti alles.