Безплатен LLM API: 5 USD кредит за всеки нов акаунт

Какво представляват тези 5 USD

Нова организация започва с 5,00 USD кредит за инференция, отпуснат еднократно при създаването на акаунта. Това е сума в книгата на кредита, а не пробен ключ и не отделен продукт: извикването, което го изразходва, е същото извикване, на което API отговаря при всеки друг кредит. Редовете за крайни точки зад този каталог записват средна входна ставка от около 0,36 USD на милион токена към днешна дата, така че пет долара са от порядъка на четиринадесет милиона входни токена при тази средна стойност. Числото е средно за 325 активни реда за крайни точки, а един отделен ред струва по-малко или повече: записаните входни ставки варират от 0,00 до 1,50 USD на милион токена.

Не се иска карта. Нищо не се таксува по карта, защото плащанията с карта изобщо не са разрешени в това разгръщане. Кредитът не е пари в брой, не може да бъде прехвърлен на друга организация и не може да бъде изтеглен. Той не се презарежда автоматично и не се подновява: няма запазена карта, която едно подновяване би могло да таксува.

Отпускането е едно на организация. Създаването на акаунти, за да се получава то многократно, е злоупотреба, а разделът за допустима употреба в условията вече покрива това.

Как да го изразходвате

Поискайте API ключ в конзолата и изпратете първата заявка. API е съвместим с OpenAI: един POST към /v1/chat/completions с bearer ключ, а официалните SDK работят, щом базовият URL сочи насам. Ключът изразходва кредита след същите проверки на политиката, които важат за всяка друга заявка — резидентност, списъци на доставчици и модели, ценови тавани, класове данни, задържане и дневен бюджет. Кредитът не е заобикаляне на правило от политиката. Ако вашата политика откаже модел или нищо активно не го обслужва, повече кредит няма да направи извикването успешно.

Можете да изразходвате кредита и в Playground, преди да напишете какъвто и да е код, което е достатъчно, за да видите формата на отговора: стандартните полета на OpenAI плюс един блок, който назовава идентификатора на следата, изпълнения модел, неговата версия, идентификатора на крайната точка, региона на инференция, класа на суверенитет, приложеното задържане, оценка на разходите и едно изречение, което казва защо тази крайна точка е избрана. Всяко извикване се записва като следа, която можете да извлечете по нейния идентификатор.

Пет долара не издържат вечно и честният поглед върху тях е работен бюджет. Чат, който разменя няколко хиляди токена, струва част от цента при партньорските ставки. Дълга подкана за извличане, изпратена към модел с висока записана ставка, може да изразходва няколко цента с едно извикване. Няма как да знаете своето число, без да извикате, защото цената принадлежи на реда за крайна точка, който ви обслужва, а не на тази страница.

Днес отговарят 325 модела

Отчасти защото тук нищо не е измислено, каталогът е по-голям от частта му, която отговаря. Прочетете тази таблица, преди да планирате каквото и да е. 325 модела се обслужват от 325 активни партньорски крайни точки в това разгръщане днес. Останалите 291 реда са само за каталог: те носят карта с доставчик, лиценз, документиран прозорец на контекста и източниците за всяко твърдение, и нищо в това разгръщане не отговаря вместо тях. Модел, който платформата не може да обслужи, се отказва по име и никога не се обслужва от заглушка, така че безплатният кредит не може да произведе изход, който никога не се е случил.

Моделите, които наистина отговарят, се обслужват през партньорски крайни точки. Тези редове работят извън ЕС през брокер, а не на инфраструктура от първа ръка, и класът им на резидентност го казва. Нова организация се създава с политика, която позволява класовете с хостинг в ЕС, а партньорските крайни точки са изключени в тази политика по подразбиране: те стават допустими, когато политиката или заявката ги включат. Този превключвател е в конзолата и не е платена функция — това е същото поле на политиката, което плащаща организация би променила.

Какви са лимитите и какви не са

Политиката по подразбиране ограничава разходите до 10,00 USD на организация на ден, а достигането на този таван връща 402 budget_exceeded, преди да бъде оценена която и да е крайна точка. Двата лимита са отделни и отговорът за всеки от тях също е отделен. Ценовият таван премахва скъпа крайна точка по време на филтъра, така че заявката все още успява на по-евтина. Дневният бюджет спира заявката. Нито едното не е ограничение на скоростта и нито едното не е филтърът за резидентност, който отговаря 409 no_endpoint_for_policy, когато нищо не удовлетворява условието къде може да работи една заявка.

Политиката носи също разрешените класове данни, списъците на доставчици и модели и регионите, които една заявка може да използва. Всичко извън тях се отказва по име, вместо да бъде обслужено по друг начин. Едно извикване е ограничено и на ключ и на организация, което е различен таван от кредита и е документирано с числата си на страницата с лимити.

Това не е безплатен план, който се подновява ежедневно или ежемесечно. Това е едно отпускане от пет долара. Не е паричен баланс, не се прехвърля и не се изтегля. Не е обещание, че всеки модел в каталога може да бъде извикан, защото 291 реда са документация, а не крайна точка. Не е освобождаване от политика: кредитът се изразходва за това, което политиката вече позволява, и за нищо друго. Не е увеличение на дневния таван. И не е кредитна линия без край — няма запазена карта, така че няма какво да се надхвърли и какво да се фактурира по-късно.

Какво се случва, когато кредитът свърши

Когато петте долара се изразходват, балансът показва нула и API отказва заявката, вместо да я обслужи. Отказът назовава лимита, който я е спрял, а конзолата показва какво е изразходвано и какво остава. Нищо не се таксува тихо по карта, нищо не се обслужва въпреки това и никаква фактура не пристига по-късно. Тъй като няма запазен метод на плащане, за разгръщането няма какво да таксува и няма какво да изтегли от вашия акаунт.

Можете да запазите акаунта и ключовете. Следите ви и историята на използване остават четливи, а баланс може да бъде добавен в конзолата от собственик или администратор. Ако предпочитате да спрете, акаунтът може да бъде изтрит от конзолата, което премахва него и ключовете му.

Това, което остава вярно, след като кредитът свърши, е трудната част от офертата и можете да го проверите на този сайт още днес. Телата на подканите и на завършванията никога не се записват в базата данни: нулевото задържане е приложено и е единственият приложен режим, при всяка заявка, независимо какъв баланс държите. Класовете с хостинг в ЕС и партньорските редове извън ЕС са отделни стойности в отделни редове, така че регионът, в който работи една заявка, е поле, което четете, а не изречение, на което вярвате. И тук нищо не фактурира тихо: заявката, която не може да бъде платена, се отказва, с код и съобщение, вместо да бъде обслужена и таксувана.

Тест за пет минути, по ред

Ако искате да знаете дали тази платформа си струва следващия ви час, изразходвайте кредита за четири проверки, а не за една дълга подкана. Създайте акаунта и още не изразходвайте нищо. Прочетете страницата с модели и отбележете колко от 325 са допустими според политиката ви такава, каквато е. Изпратете една кратка заявка за чат и прочетете целия отговор, включително изречението за маршрута и полето за задържане. След това сравнете оценката на разходите в този отговор със записаната цена за крайната точка, която е отговорила. Тези четири стъпки отговарят на въпросите, които една безплатна оферта обикновено избягва: какво всъщност работи, къде работи, колко струва и дали нещо е било запазено.