PL ▾
Pobierz klucz API

Najtańszy koszt API AI: Matematyka per-token i przykłady

Najtańszy koszt API AI to ten, który możesz obliczyć na papierze przed wysłaniem pierwszego zapytania. Ta strona pokazuje arytmetykę per-token dla tego API i metodę porównania go z dowolnym innym dostawcą.

Zaktualizowano

Kluczowe punkty

  • Stawki to $0,15 za 1 mln tokenów wejściowych i $0,50 za 1 mln tokenów wyjściowych, rozliczane z przedpłaconego kredytu.
  • Tokeny wyjściowe kosztują około 3,3 razy więcej niż tokeny wejściowe, więc krótsze odpowiedzi oszczędzają więcej niż krótsze prompty.
  • Nieudane lub odrzucone zapytania nie są rozliczane, a kredyt nigdy nie wygasa.
  • Doładowania od $50 w górę dodają bonus 5%, 10% lub 15%, co obniża Twoją efektywną stawkę.
Waga bilansowa z świecącymi kostkami tokenów przeciwko monetom, ilustrująca koszt API per-token

Krótka odpowiedź: wyceniaj własne tokeny, nie stawkę z nagłówka

Najtańszy koszt API dla Ciebie zależy od trzech liczb: ile tokenów wchodzi, ile wychodzi i ile dostawca pobiera za milion każdego z nich. Niska cena wejścia niewiele znaczy, jeśli Twoje obciążenie generuje długie odpowiedzi, a niska cena wyjścia niewiele znaczy, jeśli każde zapytanie zawiera prompt o 30 000 tokenów.

W tym API stawki to $0,15 za 1 mln tokenów wejściowych i $0,50 za 1 mln tokenów wyjściowych. Płacisz z przedpłaconego kredytu, nie ma subskrypcji, a zapytanie, które się nie powiedzie lub zostanie odrzucone, nie jest rozliczane. Reszta tej strony zamienia te dwie stawki na rzeczywiste liczby, abyś mógł podjąć decyzję za pomocą kalkulatora, a nie strony z cenami.

Wzór

Koszt każdego zapytania wynosi:

cost = (input_tokens x 0.15 / 1,000,000) + (output_tokens x 0.50 / 1,000,000)

Tokeny są liczone przez tokenizer modelu, a nie przez słowa. Jako przybliżona zasada dla tekstu angielskiego: jeden token to nieco mniej niż jedno słowo, ale kod, inne języki i gęsta interpunkcja zużywają więcej tokenów. Nie zgaduj: każda odpowiedź zawiera obiekt usage z dokładnymi liczbami tokenów promptu i uzupełnienia, a przy strumieniowaniu użycie pojawia się na końcu strumienia. Loguj to dla każdego zapytania, a Twój rzeczywisty koszt wywołania stanie się zmierzoną wartością.

Nagłówek odpowiedzi X-Balance-USD pokazuje Twoje pozostałe środki po każdym wywołaniu, co jest przydatne do szybkiego sprawdzenia poprawności podczas testowania.

Przykłady obliczeń przy tych stawkach

Oto pięć powszechnych kształtów obciążenia z pokazaną matematyką. Koszt wejścia to tokeny x 0,15 / 1 000 000, koszt wyjścia to tokeny x 0,50 / 1 000 000.

ObciążenieTokeny wejściowe / wyjścioweKoszt na wywołanieWolumenRazem
Tura czatu z krótką historią2 000 / 500$0,0003 + $0,00025 = $0,0005510 000 wywołań$5,50
Podsumowanie dokumentu20 000 / 1 000$0,003 + $0,0005 = $0,00351 000 dokumentów$3,50
Analiza długiego kontekstu90 000 / 2 000$0,0135 + $0,001 = $0,0145100 wywołań$1,45
Masowa generacja tekstu500 / 1 500$0,000075 + $0,00075 = $0,000825100 000 wywołań$82,50
Zadanie wsadowe, tylko sumy50M / 10M$7,50 + $5,00jedno zadanie$12,50

Wyróżniają się dwie rzeczy. Po pierwsze, nawet zadanie generowania na 100 000 zapytań kosztuje $82,50, czyli kwotę, którą możesz uwzględnić w budżecie. Po drugie, w wierszu generowania zbiorczego wyjście stanowi ponad 90% rachunku ($0,00075 z $0,000825), ponieważ tokeny wyjściowe są wyceniane na 0,50 / 0,15, czyli około 3,3 razy więcej niż stawka wejściowa.

Co kupuje minimalne doładowanie

Minimalne doładowanie to $20. Przy koszcie tury czatu podanym powyżej $20 wystarcza na około 36 000 tur ($20 / $0,00055 to około 36 364). Gdybyś wysyłał tylko dane wejściowe, $20 pokryłoby około 133 milionów tokenów; gdybyś generował tylko dane wyjściowe, około 40 milionów.

Jak uczciwie porównać dostawców

Strony z cenami są pisane tak, aby wyglądały dobrze, więc porównuj przy stałym obciążeniu. Metoda, która się sprawdza:

  1. Wybierz jedno rzeczywiste obciążenie, takie jak tura czatu powyżej, i zmierz liczbę tokenów wejściowych i wyjściowych z własnych logów.
  2. Otwórz aktualną stronę z cenami każdego dostawcy i zapisz stawki wejściowe i wyjściowe dla dokładnie tego modelu, którego byś użył. Stawki się zmieniają, więc sprawdzaj ich aktualne ceny w dniu decyzji, a nie polegaj na poście na blogu, w tym na tym.
  3. Oblicz koszt za wywołanie wzorem, a następnie pomnóż przez swój miesięczny wolumen.
  4. Dodaj koszty, które nie pojawiają się per token: minimalne doładowania lub subskrypcje, wygaśnięcie niewykorzystanego kredytu, opłaty za nieudane zapytania i limity zapytań, które zmuszają Cię do wyższego poziomu.

Bądź ostrożny ze słowem „model” w tym kroku. Ta usługa uruchamia jeden model o otwartych wagach, dostrojony do odpowiadania bez odrzuceń treści dla legalnego użytku przez dorosłych, hostowany przez niezależnego dostawcę. Nie jest to router między dostawcami ani oficjalne API żadnego laboratorium. Jeśli Twoje zadanie wymaga konkretnego modelu własnościowego, najniższa stawka na innym modelu Ci nie pomoże, a właściwy wybór to ten, który wykona zadanie. Jeśli model o otwartych wagach wystarczy, to właśnie na koszcie per token skupia się to API.

Bonusy za doładowanie zmieniają efektywną stawkę

Doładowania to dowolna kwota całkowita od $20 do $500, z bonusem skalującym się wraz z wielkością:

  • $50 do $99: +5%, więc $50 staje się $52,50 kredytu.
  • $100 do $199: +10%, więc $100 staje się $110.
  • $200 i więcej: +15%, więc $200 staje się $230.

Przy najwyższym bonusie otrzymujesz $1,15 kredytu na każdy zapłacony $1, więc efektywne stawki spadają do $0,15 / 1,15 = około $0,130 za 1 mln tokenów wejściowych i $0,50 / 1,15 = około $0,435 za 1 mln tokenów wyjściowych. To oszczędność 13% bez zmiany jednej linii kodu. Ponieważ kredyt nigdy nie wygasa, zakup większej puli wiąże się z niskim ryzykiem, jeśli oczekujesz stałego użytku.

Płatność tylko kryptowalutami: USDT w sieci TRC20 lub USDC na Base. Szczegóły znajdziesz na stronie z cenami, a szerszy opis modelu rozliczeniowego pay-as-you-go w cenniku LLM API pay-as-you-go.

Siedem sposobów na obniżenie rachunku

Najniższa stawka nadal nagradza ostrożne użytkowanie. W przybliżonej kolejności wpływu:

  1. Ogranicz i ukształtuj wynik. Dane wyjściowe kosztują 3,3 razy więcej za token. Poproś o zwięzłe odpowiedzi w promptzie systemowym i ustaw max_tokens na znany Ci rozsądny limit.
  2. Ogranicz historię czatu. Ponowne wysyłanie 20 tur w każdym zapytaniu wielokrotnie zwiększa koszt. Używaj okna przesuwnego lub krótkiego streszczenia starszych tur.
  3. Nie zapełniaj okna kontekstu. Okno ma 100 000 tokenów, ale prompt o długości 90 000 tokenów kosztuje $0,0135 za każdym razem. Pobierz odpowiednie fragmenty zamiast wklejania całego pliku.
  4. Użyj trybu JSON do ekstrakcji. Przy ustawionym response_format na json_object unikasz długich wstępów i ponownych prób spowodowanych niepoprawnym wynikiem.
  5. Obniż temperaturę dla zadań deterministycznych. Mniej generacji poza celem oznacza mniej ponownych prób.
  6. Zatrzymaj generowanie wcześnie. Użyj sekwencji stop, aby model nie kontynuował pisania po części, której potrzebujesz.
  7. Przetestuj na kredycie próbnym. Nowi użytkownicy mogą zaksięgować $0,50 jednym kliknięciem na stronie klucza API, ważnym przez 7 dni. Przy koszcie rozmowy daje to około 900 wywołań, co wystarczy do zmierzenia rzeczywistej liczby tokenów przed doładowaniem środków.

Przykładowy miesięczny budżet

Załóżmy, że uruchamiasz asystenta obsługi klienta, który obsługuje 3 000 rozmów dziennie. Każda rozmowa wymaga 6 wywołań modelu, a typowe zapytanie wysyła 2 000 tokenów wejściowych i zwraca 300 tokenów wyjściowych.

  • Jedno zapytanie: 2 000 x 0,15 / 1 000 000 = $0,0003 za dane wejściowe, plus 300 x 0,50 / 1 000 000 = $0,00015 za dane wyjściowe, razem $0,00045.
  • Jedna rozmowa: 6 x $0,00045 = $0,0027.
  • Jeden dzień: 3 000 x $0,0027 = $8,10.
  • Trzydzieści dni: 30 x $8,10 = $243.

Obciążenie wynosi 18 000 zapytań dziennie, co daje średnio 12,5 na minutę, co mieści się w limicie 300 zapytań na minutę dla pełnego klucza. Jeśli doładujesz konto kwotą $200, bonus 15% daje ci $230 kredytu, więc jedno doładowanie pokrywa około 28 dni tego ruchu ($230 / $8,10 to około 28,4). Ponieważ niewykorzystany kredyt nigdy nie wygasa, możesz doładować go w dowolnej kwocie dostosowanej do przepływu gotówki i przenieść resztę na kolejne miesiące.

Traktuj to jako szablon i podstaw własne dane. Chodzi o to, że cały rachunek sprowadza się do czterech parametrów, które możesz zmierzyć: liczba zapytań dziennie, liczba tokenów wejściowych na zapytanie, liczba tokenów wyjściowych na zapytanie oraz dwie stawki.

Sprawdź zapytanie za pomocą pomiaru

Ten skrypt wysyła jedno zapytanie i wypisuje dokładny koszt na podstawie raportu z użycia. Zastąp klucz własnym.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.unlimitedaiapi.com/v1",
    api_key=os.environ["UNLIMITED_API_KEY"],
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarize the idea of per-token pricing in two sentences."}],
)

u = resp.usage
cost = u.prompt_tokens * 0.15 / 1_000_000 + u.completion_tokens * 0.50 / 1_000_000
print(resp.choices[0].message.content)
print(u.prompt_tokens, u.completion_tokens, f"${cost:.6f}")

Uruchom go na kilku reprezentacyjnych promptach, uśrednij wynik i skaluj go do swojego wolumenu. Jeśli jeszcze nie masz skonfigurowanego dostępu, szybki start w dokumentacji go omawia, a klucz API możesz uzyskać w ciągu kilku minut.

Pytania i odpowiedzi

Ile kosztuje milion tokenów w tym API?

Tokeny wejściowe kosztują $0,15 za 1M tokenów, a tokeny wyjściowe $0,50 za 1M tokenów. Jeden milion każdego z nich łącznie kosztuje $0,65.

Czy płacę za nieudane lub odrzucone zapytania?

Nie. Nieudane lub odrzucone zapytania nie są rozliczane, więc ponowne próby po błędzie nie zwiększają rachunku.

Czy mój kredyt wygasa?

Nie. Kredyt nigdy nie wygasa, nie ma subskrypcji ani miesięcznego minimum. Płacisz za zużycie z salda, które doładujesz.

Czy to najtańsza opcja dla każdego projektu?

Niekoniecznie. Obsługuje jeden model o otwartych wagach, więc jeśli potrzebujesz konkretnego modelu własnościowego, porównaj jego bieżącą cenę i jakość bezpośrednio. W zadaniach, gdzie model o otwartych wagach wystarczy, koszt za token jest główną zaletą.

Czy mogę przetestować przed płatnością?

Tak. Nowi użytkownicy mogą uzyskać $0,50 darmowego kredytu próbnego jednym kliknięciem na stronie klucza API po rejestracji. Jest on ważny przez 7 dni i przysługuje tylko raz na osobę.

Twój klucz jest o jeden formularz stąd

Utwórz konto, skopiuj klucz, zmień base URL. To cała konfiguracja.

Pobierz klucz API