Ile naprawdę kosztuje jedno pytanie do ChatGPT albo Claude
Płacisz dwadzieścia parę złotych miesięcznie i masz wrażenie, że pytania do AI są za darmo. Nie są — tylko ktoś przed Tobą zapłacił z góry, żebyś nie musiał liczyć.
Budka telefoniczna, która wzięła z góry
Pamiętasz budkę telefoniczną z żetonem? Wrzucałeś żeton, podnosiłeś słuchawkę i dokładnie wiedziałeś, za co płacisz — za czas rozmowy. Skończył się żeton, rozmowa się urywała. Prosty układ: płacisz tyle, ile naprawdę zużyłeś.
Z AI jest odwrotnie. Płacisz z góry, raz w miesiącu, jedną kwotę — i masz wrażenie, że każde pytanie jest “za darmo”, bo przecież już zapłaciłeś. Nieprawda. Ktoś po drugiej stronie dokładnie liczy, ile kosztowało Twoje konkretne pytanie — tylko Tobie tego nie pokazuje. Jedno kosztuje grosze. Inne, dłuższe albo zadane “mocniejszemu” modelowi, kilka złotych. Ty widzisz tylko jedną cyfrę na końcu miesiąca.
Pierwszy suwak: ile tekstu lata w te i wewte
Najprostsza rzecz, jaką trzeba zrozumieć: AI nie liczy sobie “pytań”. Liczy tekst — ten, który do niego wysyłasz, i ten, który Ci odsyła z powrotem. W żargonie to się nazywa tokenami. Cokolwiek one dokładnie znaczą dla maszyny — dla Ciebie liczy się tylko jedno: więcej tekstu w obie strony to wyższy rachunek.
Zapytanie “jaka jest stolica Francji” to parę groszy — krótkie pytanie, krótka odpowiedź. Wklejenie całego raportu na dziesięć stron i prośba “podsumuj mi to i znajdź błędy” to zupełnie inna liga, bo cały ten tekst trzeba najpierw “przeczytać”, a potem jeszcze odpowiedzieć. Im dłuższa rozmowa, tym drożej — bo dobre asystenty AI pamiętają całą dotychczasową wymianę zdań i za każdym razem liczą ją na nowo, od początku.
Drugi suwak: który silnik i jak mocno on myśli
To samo pytanie, wysłane do dwóch różnych modeli, może kosztować zupełnie inne pieniądze. Tańszy, szybszy model dobrze radzi sobie z prostą robotą. Droższy, “mocniejszy” — ten, który potrafi dłużej “pomyśleć” nad odpowiedzią, zanim ją wypluje — kosztuje po prostu więcej za ten sam kawałek tekstu. I nie chodzi tylko o markę. W obrębie jednego dostawcy bywają warianty “szybki i tani” oraz “wolny, dokładny i drogi” — a wybiera się je, klikając zakładkę, której większość ludzi nigdy nie dotyka.
Na początku mojej współpracy z AI zauważyłem, że te tańsze modele jak Haiku i Sonnet u Claude albo Terra / Luna w chacie GPT często się mylą i muszę im wiele tłumaczyć, dlatego naparzałem wszystko w najmocniejszych modelach, bo one przynajmniej dowoziły mi to, czego chciałem. Jak Anthropic wprowadził Fable, to był mój pierwszy szok. Wszyscy rozpisywali, jaki to nie jest super, jak ogarnia wszystko za jednym strzałem, a z Opusem musiałem jedno zadanie robić na wiele tur. Jak się okazało, pierwszy Fable mylił się równie często co Opus. Fakt, zadanie robił w 3 turach zamiast w 5 jak Opus, ale za to wciągał limity użycia jak nowiutki odkurzacz. I tak się okazało, że Opusem byłem w stanie zrobić to samo (może i na więcej tur), ale za to taniej. Potem przeprosiłem się też z tańszymi modelami do mniej wymagających zadań, dzięki temu jestem w stanie budować swoje rozwiązania streamingowe taniej i szybciej.
Dlaczego nigdy nie widzisz tego licznika
To nie przypadek, że nie widzisz ceny przy każdej odpowiedzi — to model biznesowy. Płacisz ryczałt, czyli z grubsza jak w hotelu all inclusive: nikt nie waży Ci kieliszka wina przy barze, bo cena pokoju już to uwzględnia. Jedni goście wypiją dwa drinki dziennie, inni dziesięć, a hotel i tak wychodzi na swoje, bo liczy na średnią.
Dostawcy AI robią dokładnie to samo. Większość ludzi zadaje krótkie pytania tańszym modelem — i to oni finansują tych, którzy wklejają dziesięciostronicowe dokumenty i każą je analizować w kółko najdroższym silnikiem. Ryczałt nie znika — po prostu ktoś inny płaci za Ciebie, a Ty za kogoś innego. Dopóki nie przesadzasz, nie ma znaczenia. Jak zaczynasz zużywać naprawdę dużo — limit, spowolnienie albo wyższy plan przypominają, że licznik jednak chodził cały czas.
Czego się nie da policzyć w domu
Uczciwie: bez wglądu w fakturę dostawcy nie policzysz dokładnej kwoty za pojedyncze pytanie — nie ma publicznego licznika, który pokaże Ci “to zapytanie kosztowało 3 grosze”. Da się za to rozpoznać kierunek: długie rozmowy, długie wklejone dokumenty i najmocniejszy dostępny model to trzy rzeczy, które realnie podnoszą koszt tej samej odpowiedzi. Jeśli zależy Ci na oszczędzaniu, patrz na te trzy suwaki, a nie na liczbę zadanych pytań — ta akurat nie ma znaczenia.
Budka telefoniczna z żetonem przynajmniej była uczciwa — wiedziałeś, kiedy rozmowa się kończy. Dzisiejszy abonament do AI nie mówi Ci tego wprost. Płacisz z góry i dowiadujesz się, ile naprawdę “rozmawiałeś”, dopiero jak ktoś Ci to policzy za Ciebie.
Tematy: ai · narzedzia