Roleplay z AI: Konfiguracja darmowej wersji próbnej i rzeczywiste koszty

Co oznacza „darmowy” w tym miejscu

Nie ma nieograniczonego darmowego czatu w tej usłudze i lepiej powiedzieć o tym od razu. To, co otrzymujesz, to saldo próbne: po rejestracji się przez Google lub e-mail i hasło możesz odebrać $0,50 kredytu próbnego jednym kliknięciem na stronie klucza API. Jest jeden na osobę, ważny przez 7 dni i nie wymaga płatności. Klucz próbny obsługuje 2 równoległe zapytania i 60 zapytań na minutę, co wystarczy jednej osobie czatującej.

To brzmi mało, ale tokeny są tanie. Wejście kosztuje $0,15 za 1M tokenów, a wyjście $0,50 za 1M. Typowa tura odgrywania roli z promptem 8000 tokenów i odpowiedzią 300 tokenów kosztuje $0,00135, więc $0,50 pokrywa około 370 tur. Dla wielu osób to pełny wieczór lub kilka krótkich opowiadań, wystarczająco, by zdecydować, czy konfiguracja im odpowiada, zanim zaangażują jakiekolwiek pieniądze.

Kiedy kredyt próbny się skończy, doładujesz od $20 dowolną kwotą całkowitą do $500. Kredyt nigdy nie wygasa, nieudane lub odrzucone zapytania nie są rozliczane, a nie ma subskrypcji do anulowania. Ta strona przyjmuje tylko kryptowaluty: USDT na TRC20 lub USDC na Base.

Wybierz interfejs

API przesyła tylko tekst przez HTTP. Nadal potrzebujesz czegoś, co utrzyma Twoje postacie, historię czatu i szablon promptu. Trzy powszechne wybory:

• SillyTavern. Lokalna aplikacja webowa stworzona do czatów z postaciami, z księgami lore, osobowościami i presetami. Pozwala dodać endpoint kompatybilny z OpenAI, czyli dokładnie to, czym jest to API.
• Inny klient czatu, który udostępnia pola dla niestandardowego URL kompatybilnego z OpenAI. Szukaj ustawień o nazwach custom endpoint, proxy lub OpenAI-compatible.
• Twój własny skrypt. Pięćdziesiąt linii Pythona daje pełną kontrolę nad pamięcią, promptami i kosztami. To też najłatwiejszy sposób, by zobaczyć, co dokładnie wysyłasz.

Jeśli budujesz aplikację, a nie tylko czatujesz, te same wywołania działają z dowolnym SDK OpenAI. Szybki start w dokumentacji wymienia endpointy, nagłówki i limity w jednym miejscu.

Połącz SillyTavern w pięciu krokach

1. Stwórz konto, otwórz stronę klucza API, odbierz kredyt próbny i skopiuj swój klucz.
2. W SillyTavern otwórz ikonę wtyczki (Połączenia API) i ustaw typ API na Chat Completion.
3. Wybierz źródło o nazwie Custom (OpenAI-compatible).
4. Wklej https://api.uncensoredvideo.cc/v1 w pole custom endpoint, swój klucz w pole key i wpisz uncensored jako ID modelu.
5. Naciśnij Connect. Zielony status oznacza, że zapytanie do GET /v1/models lub wiadomość testowa powiodły się.

Etykiety menu zmieniają się między wersjami SillyTavern, więc kieruj się sensem, a nie dokładnym brzmieniem. Zanim obwinisz aplikację, przetestuj klucz z terminala:

Copycurl https://api.uncensoredvideo.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Reply with the word ready."}]}'

Jeśli curl działa, a aplikacja nie, problem jest w polach aplikacji: brakujący /v1, zbędna spacja w kluczu lub zła nazwa modelu.

Lub napisz małą pętlę czatu

Skrypt to dobry sposób, by nauczyć się, ile kosztuje czatowanie w konwencji postaci, bo możesz wypisać użycie tokenów przy każdej odpowiedzi. Ten skrypt utrzymuje prompt postaci, przycina historię do ostatnich 20 wiadomości i strumieniuje odpowiedź.

Copyimport os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.uncensoredvideo.cc/v1",
    api_key=os.environ["API_KEY"],
)

system = (
    "You are Mara, a dry-witted smuggler pilot in a space-opera story. "
    "Stay in character, write in third person, keep replies under 150 words."
)
history = []

while True:
    user = input("> ")
    history.append({"role": "user", "content": user})
    messages = [{"role": "system", "content": system}] + history[-20:]
    stream = client.chat.completions.create(
        model="uncensored",
        messages=messages,
        temperature=0.9,
        top_p=0.95,
        max_tokens=300,
        stream=True,
        stream_options={"include_usage": True},
    )
    reply = ""
    for chunk in stream:
        if chunk.choices and chunk.choices[0].delta.content:
            piece = chunk.choices[0].delta.content
            reply += piece
            print(piece, end="", flush=True)
        if chunk.usage:
            print("\n[tokens in/out: %d/%d]" % (chunk.usage.prompt_tokens, chunk.usage.completion_tokens))
    history.append({"role": "assistant", "content": reply})

Obserwuj linię użycia. Po kilku dziesiątkach tur zobaczysz, jak rośnie licznik wejścia, podczas gdy wyjście pozostaje płaskie. To liczba, którą należy kontrolować.

Napisz prompt postaci, który się utrzyma

Większość problemów w rozgrywce zaczyna się od pierwszego promptu, a nie w modelu. Dobry prompt postaci jest krótki i konkretny. Nazwij postać, nadaj głos w jednym lub dwóch zdaniach, opisz scenerię i powiedz, jak długie powinny być odpowiedzi. Potem przestań. Każda dodatkowa zasada to token, za który płacisz w każdej turze, a długa lista „rób i nie rób” jest zwykle słabiej przestrzegana niż jasny przykład.

Porównaj dwa sposoby opisu tej samej pilotki. Pierwszy mówi, że jest odważna, zabawna, lojalna i sprytna. To nic nie mówi modelowi, nad czym może działać. Drugi mówi, że odpowiada na pytania żartem najpierw, a prawdą potem, nigdy nie wyjaśnia swojej przeszłości, dopóki nie zapytano jej dwukrotnie, i przeklina łagodnie, gdy zepsuje się część statku. Drugi daje modelowi nawyki do powtarzania, a nawyki to to, co czytelnicy doświadczają jako osobowość.

Dodaj krótki przykładowy dialog z trzech lub czterech linijek. Modele bardzo dobrze kopiują rytm, więc przykład ustala długość, czas gramatyczny i punkt widzenia bez osobnej zasady. Jeśli piszesz w drugiej osobie, pokaż to. Jeśli chcesz narrację kursywą, pokaż i to. Umieść przykład w systemowym prompcie lub jako pierwsze wiadomości historii.

Na koniec zdecyduj, kto kontroluje inne postacie. Jeśli chcesz, by model grał całą obsadę, powiedz to. Jeśli chcesz, by grał tylko jedną rolę, powiedz, że nigdy nie może pisać słów ani czynności Twojej postaci. Sekwencja stop na nazwę Twojej postaci wspiera to na poziomie API.

Ile kosztuje tura roleplayu

Każde zapytanie ponownie wysyła prompt systemowy, opis postaci i historię, więc tokeny wejściowe rosną wraz z długością czatu. Oto rachunek za odpowiedź 300 tokenów, która sama w sobie kosztuje 300 x $0,50 / 1 000 000 = $0,00015:

Wniosek jest prosty. Ścisły prompt 8000 tokenów jest około 5,7 razy tańszy niż 50 000 tokenów dla tej samej liczby tur. Na poziomie 8000 tokenów doładowanie za $20 opłaci około 14 800 tur. Większe doładowania dodają bonus: +5% od $50, +10% od $100 i +15% od $200, więc $100 daje $110 kredytu. Zobacz stronę z cenami, by zobaczyć pełną tabelę.

Utrzymaj długie historie tanie i spójne

Okno kontekstu ma 100 000 tokenów, prompt plus odpowiedź, więc możesz wczytać dużo. Rzadko jednak warto. Długie prompty kosztują więcej i dają modelowi więcej tekstu, w którym może zgubić wątek. Kilka nawyków pomoże:

• Podsumuj, a potem usuń. Co 20 odpowiedzi, poproś model o 150-słowne podsumowanie historii, dodaj je do promptu systemowego i usuń stare wiadomości.
• Trzymaj kartę postaci krótką. Strona zasad, której model ignoruje, to strona, za którą płacisz w każdej turze.
• Ogranicz odpowiedź. max_tokens jest opcjonalny, ale limit zatrzymuje rozbiegane odpowiedzi i utrzymuje tempo.
• Dostosuj próbkowanie. Temperatura około 0,8 do 1,0 pasuje do fikcji. Jeśli model powtarza frazy, zwiększ nieco penalizację częstotliwości lub obecności. Są one przekazywane.
• Używaj sekwencji stop, by model nie pisał Twoich kwestii za Ciebie, na przykład stop na nazwę Twojej postaci, po której następuje dwukropek.

Ustalone ziarna są również przekazywane, co pomaga, gdy chcesz odtworzyć scenę i porównać dwie wersje promptu.

Powszechne problemy i szybkie poprawki

To problemy, na które ludzie natrafiają najczęściej w długich czatach, z ustawieniem, które zwykle pomaga.

• Model mówi za Ciebie. Dodaj linię do systemowego promptu oraz sekwencję stop na nazwę Twojej postaci.
• Odpowiedzi stają się dłuższe w każdej turze. Model kopiuje długość wcześniejszych odpowiedzi. Obniż max_tokens, edytuj jedną długą odpowiedź ręcznie, a wzór się zresetuje.
• Powtarzające się frazy. Podnieś nieco temperaturę, dodaj małą penalizację obecności lub częstotliwości i zróżnicuj własne wiadomości. Model odbija to, co widzi.
• Zapominanie o szczegółach. Umieść krótką przypiętą notatkę na górze promptu z faktami, które muszą przetrwać, takimi jak imiona, obrażenia czy obietnice, i odświeżaj ją, gdy fabuła się zmienia.
• Spłaszczony ton. Podaj wyraźniejszy przykład głosu postaci. Ton pochodzi z przykładów znacznie bardziej niż z przymiotników.

Gdy wydarzy się coś dziwnego, wydrukuj pełną listę wiadomości wysyłanych przez Twój skrypt. Dziewięć razy na dziesięć przyczyna jest widoczna w samym promptcie: pozostała instrukcja, zduplikowane streszczenie lub historia, której nie przycięto.

Ograniczenia i błędy, na które możesz natrafić

Pełny klucz pozwala na 8 równoległych zapytań i 300 zapytań na minutę, klucz próbny na 2 i 60. Jeśli przekroczysz limit, API zwróci HTTP 429. Kod błędu rate_limited oznacza zbyt wiele zapytań na minutę, a concurrency oznacza zbyt wiele naraz. 429 z nagłówkiem Retry-After: 5 sygnalizuje tymczasowe przeciążenie, więc poczekaj pięć sekund i ponów próbę.

Jeden szczegół często myli: zapytanie strumieniowe zajmuje slot równoległości aż do zakończenia strumienia. Jeśli szybko klikniesz regenerację trzy razy przy kluczu próbnym, trzecia próba może zakończyć się błędem concurrency. Poczekaj, aż strumień się zakończy, lub pozwól klientowi ponowić próbę po krótkiej pauzie. Każda odpowiedź zawiera również X-Balance-USD, więc Twój skrypt może wyświetlić pozostałe środki po każdej turze.

Zasada, która się nie zmienia: model jest dostrojony do odpowiadania bez odmów dotyczących treści w legalnym użyciu przez dorosłych i nie będzie pisać treści seksualnych z udziałem nieletnich. Trzymaj swoje opowieści w granicach tej linii. Prompty nie są używane do trenowania.

Więcej przewodników

• Poradnik LangChain Agentic AI z API kompatybilnym z OpenAI
• Zbuduj Silnik Wyszukiwania AI Bez Cenzury z Tool Calling
• API Sora 2: Bezcenzurowy generator skryptów AI tekst-wideo