Kalkulator kosztu systemu RAG

Jak używać kalkulatora kosztu RAG

Kalkulator kosztu RAG odpowiada na jedno konkretne pytanie: ile zapłacisz za przygotowanie embeddingów dla swoich dokumentów. Narzędzie działa w przeglądarce, a w tym wycinku nie pobiera danych z sieci ani nie wysyła ich na serwer, więc możesz spokojnie wpisywać własne liczby.

Do obliczeń potrzebne są cztery wartości:

• Dokumentów — ile dokumentów ma trafić do bazy wiedzy (domyślnie 5000),
• Chunków na dokument — na ile fragmentów dzielisz każdy dokument (domyślnie 20),
• Stawka embeddingów za 1 mln tokenów — cena z cennika Twojego dostawcy (domyślnie 0,02 $, pole edytowalne),
• Tokenów na chunk — średnia długość jednego fragmentu (domyślnie 350).

Narzędzie liczy najpierw łączną liczbę tokenów dokumentów przeznaczonych do embeddingu, potem przelicza ją na miliony i mnoży przez Twoją stawkę. Otrzymujesz dwie wartości: Tokenów razem oraz Koszt embeddingów.

Dla wartości domyślnych: 5000 × 20 × 350 = 35 000 000 tokenów, czyli 35M, a 35 × 0,02 $ = 0,7 $. Wynik to 35M i 0,7 $. Kwoty pokazywane są w walucie platformy ($), ale wpisując własne stawki możesz liczyć w dowolnej walucie.

Jak oszacować liczbę chunków i tokenów dokumentów

Liczba chunków i tokenów to dwa parametry, które najmocniej zmieniają wynik. Warto poświęcić im chwilę, zamiast wpisywać pierwsze liczby z głowy.

Chunki. Chunk to fragment dokumentu, który trafia do bazy wiedzy jako osobna pozycja. Zbyt duże fragmenty mieszają kilka wątków, zbyt małe gubią kontekst. W praktyce sprawdza się dzielenie po akapitach lub sekcjach, czasem z niewielkim zakładem, żeby sąsiednie fragmenty łączyły się znaczeniowo — pamiętaj jednak, że zakład zwiększa liczbę chunków, a więc i koszt.

1. Weź 5–10 dokumentów typowych dla Twojego zbioru.
2. Podziel je tak, jak planujesz robić to w systemie RAG.
3. Policz powstałe fragmenty i podziel przez liczbę dokumentów — masz średnią liczbę chunków na dokument.
4. Zsumuj tokeny w tych fragmentach i podziel przez ich liczbę — masz średnią tokenów na chunk.

Tokeny. Token to najmniejsza jednostka tekstu, na jaką dzieli go model. Jedno słowo to zwykle od jednego do dwóch tokenów, a polskie teksty wypadają tu mniej oszczędnie niż angielskie. Najbezpieczniej zmierzyć próbkę licznikiem udostępnianym przez dostawcę modelu i podstawić wynik do kalkulatora.

Znaczenie stawki embeddingów za 1 mln tokenów

Stawka embeddingów za 1 mln tokenów to cena, jaką płacisz za przeliczenie miliona tokenów tekstu na wektory. W kalkulatorze wynosi domyślnie 0,02 $ i możesz ją dowolnie zmienić — to wartość orientacyjna, a nie aktualny cennik jakiejkolwiek platformy.

Dlaczego warto ją sprawdzić? Bo ceny modeli embeddingowych różnią się między dostawcami i zmieniają się w czasie, a na końcowy rachunek wpływają też takie czynniki jak wybrany model, region czy warunki Twojej umowy. Zajrzyj do aktualnego cennika u dostawcy, którego zamierzasz użyć, i wpisz jego stawkę w to pole.

Zależność jest liniowa: dwa razy więcej tokenów to dwa razy wyższy koszt, a stawka mniejsza o połowę daje wynik dwa razy niższy. Dzięki temu łatwo porównasz scenariusze — na przykład większe chunki albo inny model embeddingowy — bez zmieniania pozostałych założeń.

Ponieważ stawkę wpisujesz ręcznie, możesz prowadzić kalkulację w dowolnej walucie: wystarczy, że wszystkie kwoty podasz w tej samej jednostce. Domyślnie narzędzie pokazuje dolary.

Ograniczenia: czego kalkulator nie liczy

Kalkulator odpowiada wyłącznie na pytanie o koszt embeddingu dokumentów. Wszystko, co dzieje się później w systemie RAG, trzeba doliczyć osobno:

• koszt zapytań do modelu, czyli przeliczenia pytań użytkowników na wektory,
• koszt generowania odpowiedzi przez model językowy,
• koszt bazy wektorowej: przechowywania, utrzymania i operacji na wektorach,
• koszt wyszukiwania podobnych fragmentów,
• koszt ponownego indeksowania dokumentów po ich zmianie lub po zmianie modelu,
• koszty infrastruktury, pracy ludzi, podatków, opłat i prowizji,
• kursy walut oraz indywidualne rabaty i warunki rozliczeń.

Narzędzie nie przetwarza plików ani nie interesuje go format dokumentów — liczy na podstawie liczb, które wpiszesz. Otrzymany wynik traktuj jako rozeznanie budżetowe i punkt wyjścia do rozmowy z dostawcą, a nie jako wiążącą wycenę. Faktyczna faktura może się różnić, jeśli w projekcie pojawią się dodatkowe elementy albo inne stawki niż wpisane w kalkulatorze.

Jak rozszerzyć kalkulację o koszt LLM i bazy wektorowej

Koszt embeddingów to zwykle tylko część budżetu. Jeśli chcesz mieć pełny obraz, rozłóż kalkulację na kilka pozycji i policz każdą osobno.

Przykład: 10 000 zapytań miesięcznie, a każde zużywa średnio 2000 tokenów wejścia — to 20 mln tokenów wejścia. Pomnóż tę liczbę przez swoją stawkę za 1 mln tokenów i dodaj koszt tokenów odpowiedzi.

Trzy praktyczne wskazówki. Po pierwsze, zaokrąglaj założenia w górę — kontekst z bazy zwykle jest dłuższy, niż się wydaje. Po drugie, pamiętaj, że zmiana modelu embeddingowego oznacza ponowne przeliczenie wszystkich dokumentów. Po trzecie, zapytaj dostawcę bazy wektorowej, jak rozlicza przechowywanie i wyszukiwanie, bo te modele cennikowe bywają różne.

Najczęstsze pytania

Stawki embeddingów są orientacyjne i edytowalne; przed decyzją sprawdź aktualny cennik dostawcy modelu/API.