Darmowe API LLM: $5 środków dla każdego nowego konta

Czym jest $5

Nowa organizacja startuje z 5.00 USD środków na wnioskowanie, przyznawanych jednorazowo przy założeniu konta. To kwota w rejestrze środków, a nie klucz próbny i nie osobny produkt: wywołanie, które ją wydaje, jest tym samym wywołaniem, na które API odpowiada przy każdych innych środkach. Wiersze punktów końcowych stojące za tym katalogiem odnotowują dziś średnią stawkę wejściową około 0.36 USD za milion tokenów, więc pięć dolarów to przy tej średniej rząd czternastu milionów tokenów wejściowych. Ta liczba to średnia z 325 aktywnych wierszy punktów końcowych, a pojedynczy wiersz kosztuje mniej albo więcej: zapisane stawki wejściowe mieszczą się w przedziale od 0.00 do 1.50 USD za milion tokenów.

Nikt nie prosi o kartę. Nic nie jest nią obciążane, bo płatności kartą nie są na tej instalacji w ogóle włączone. Środki nie są gotówką, nie można ich przenieść na inną organizację ani wypłacić. Nie doładowują się automatycznie i nie odnawiają się: nie ma zapisanej karty, którą odnowienie mogłoby obciążyć.

Przyznanie jest jedno na organizację. Zakładanie kont, żeby odbierać je wielokrotnie, jest nadużyciem, a sekcja dopuszczalnego użytku w regulaminie już to obejmuje.

Jak je wydać

Poproś o klucz API w konsoli i wyślij pierwsze żądanie. API jest kompatybilne z OpenAI: jedno POST na /v1/chat/completions z kluczem bearer, a oficjalne SDK działają, gdy adres bazowy wskazuje tutaj. Klucz wydaje środki po tych samych sprawdzeniach polityki, które dotyczą każdego innego żądania — rezydencja, listy dostawców i modeli, pułapy cenowe, klasy danych, retencja i budżet dzienny. Środki nie są obejściem reguły polityki. Jeśli Twoja polityka odrzuca model albo nic aktywnego go nie obsługuje, większa kwota środków nie sprawi, że wywołanie się powiedzie.

Środki możesz też wydać w playgroundzie, zanim napiszesz jakikolwiek kod — to wystarczy, żeby zobaczyć kształt odpowiedzi: standardowe pola OpenAI plus blok podający identyfikator śladu, model, który wykonał wnioskowanie, jego wersję, identyfikator punktu końcowego, region wnioskowania, klasę suwerenności, zastosowaną retencję, szacowany koszt i jedno zdanie mówiące, dlaczego wybrano właśnie ten punkt końcowy. Każde wywołanie jest zapisywane jako ślad, który możesz pobrać po jego identyfikatorze.

Pięć dolarów nie wystarczy na zawsze, a uczciwie patrząc, to budżet roboczy. Rozmowa wymieniająca kilka tysięcy tokenów kosztuje u dostawców partnerskich ułamek centa. Długi prompt wyszukiwawczy wysłany do modelu z wysoką zapisaną stawką może zużyć kilka centów w jednym wywołaniu. Nie da się poznać swojej liczby bez wywołania, bo cena należy do wiersza punktu końcowego, który Cię obsługuje, a nie do tej strony.

Dziś odpowiada 325 modeli

Między innymi dlatego, że niczego tu nie wymyślamy, katalog jest większy niż ta jego część, która odpowiada. Przeczytaj tę tabelę, zanim cokolwiek zaplanujesz. 325 modeli obsługuje dziś na tej instalacji 325 aktywnych punktów końcowych partnerów. Pozostałe 291 wierszy jest tylko w katalogu: mają kartę z dostawcą, licencją, udokumentowanym oknem kontekstu i źródłami każdego twierdzenia, a nic na tej instalacji za nie nie odpowiada. Model, którego platforma nie potrafi obsłużyć, jest odrzucany z nazwy, a nigdy obsługiwany przez zaślepkę — darmowe środki nie mogą więc wygenerować wyniku, którego nie było.

Modele, które faktycznie odpowiadają, obsługują punkty końcowe partnerów. Te wiersze działają poza UE, przez brokera, a nie na infrastrukturze własnej, i ich klasa rezydencji to odzwierciedla. Nowa organizacja powstaje z polityką dopuszczającą klasy hostowane w UE, a punkty końcowe partnerów są w tej domyślnej polityce wyłączone: stają się dostępne, gdy polityka albo żądanie je włączą. Ten przełącznik jest w konsoli i nie jest funkcją płatną — to to samo pole polityki, które zmieniłaby organizacja płacąca.

Czym są limity, a czym nie są

Domyślna polityka ogranicza wydatki do 10.00 USD na organizację dziennie, a po osiągnięciu tego pułapu API zwraca 402 budget_exceeded, zanim jakikolwiek punkt końcowy zostanie oceniony. Te dwa limity są osobne i osobna jest odpowiedź na każdy z nich. Pułap cenowy usuwa drogi punkt końcowy już na etapie filtrowania, więc żądanie i tak się udaje, tylko na tańszym. Budżet dzienny zatrzymuje żądanie. Żaden z nich nie jest limitem tempa ani filtrem rezydencji, który zwraca 409 no_endpoint_for_policy, gdy nic nie spełnia warunków tego, gdzie żądanie może działać.

Polityka niesie też dozwolone klasy danych, listy dostawców i modeli oraz regiony, których żądanie może użyć. Wszystko poza nimi jest odrzucane z nazwy, a nie obsługiwane inaczej. Wywołanie jest ograniczane także na klucz i na organizację, co jest innym pułapem niż środki i jest opisane wraz z liczbami na stronie limitów.

To nie jest darmowy plan odnawiający się co dzień albo co miesiąc. To jedno przyznanie pięciu dolarów. To nie saldo gotówkowe, nie da się go przenieść ani wypłacić. To nie obietnica, że każdy model z katalogu da się wywołać, bo 291 wierszy to dokumentacja, a nie punkt końcowy. To nie zwolnienie z polityki: środki wydaje się na to, co polityka i tak dopuszcza, i na nic więcej. To nie podniesienie dziennego pułapu. I to nie otwarta linia kredytowa — żadna karta nie jest zapisana, więc nie ma czego przekroczyć ani czego rozliczyć później.

Co się dzieje, gdy środki się skończą

Gdy pięć dolarów zostanie wydane, saldo pokazuje zero, a API odrzuca żądanie, zamiast je obsłużyć. Odmowa podaje nazwę limitu, który je zatrzymał, a konsola pokazuje, ile wydano i ile zostało. Nic nie jest po cichu obciążane kartą, nic nie jest obsługiwane mimo wszystko i żadna faktura nie przyjdzie później. Ponieważ żadna metoda płatności nie jest zapisana, instalacja nie ma czego obciążyć ani czego ściągnąć z Twojego konta.

Konto i klucze możesz zachować. Twoje ślady i historia użycia pozostają czytelne, a saldo może zasilić w konsoli właściciel albo administrator. Jeśli wolisz skończyć, konto można usunąć z konsoli, co usuwa je razem z kluczami.

To, co pozostaje prawdą po wyczerpaniu środków, jest najtrudniejszą częścią tej oferty i możesz to sprawdzić na tej stronie już dziś. Treści promptów i uzupełnień nigdy nie trafiają do bazy danych: zerowa retencja jest zaimplementowana i jest jedynym zaimplementowanym trybem, przy każdym żądaniu, niezależnie od tego, jakim saldem dysponujesz. Klasy hostingu w UE i wiersze partnerów spoza UE to osobne wartości w osobnych wierszach, więc region, w którym działa żądanie, jest polem, które czytasz, a nie zdaniem, w które wierzysz. I nic tutaj nie rozlicza po cichu: żądanie, za które nie da się zapłacić, jest odrzucane — z kodem i komunikatem — a nie obsługiwane i obciążane opłatą.

Pięciominutowy test, krok po kroku

Jeśli chcesz wiedzieć, czy ta platforma jest warta Twojej najbliższej godziny, wydaj środki na cztery sprawdzenia, a nie na jeden długi prompt. Załóż konto i jeszcze nic nie wydawaj. Przeczytaj stronę modeli i zwróć uwagę, ile z tych 325 jest dopuszczalnych w Twojej polityce w jej obecnym kształcie. Wyślij jedno krótkie żądanie czatu i przeczytaj całą odpowiedź, razem ze zdaniem o trasowaniu i polem retencji. Potem porównaj szacowany koszt z tej odpowiedzi z ceną zapisaną dla punktu końcowego, który odpowiedział. Te cztery kroki odpowiadają na pytania, których darmowe oferty zwykle unikają: co faktycznie działa, gdzie działa, ile kosztowało i czy cokolwiek zachowano.