Ceny API Claude: běžné chyby

Záměna mezi tokeny vstupů a výstupů

Ceny API Claude strukturovaně rozlišují vstupní a výstupní tokeny, což vytváří zmatek při odhadování nákladů. Vstupní tokeny jsou levnější, ale výstupní tokeny jsou výrazně dražší. Tento rozdíl má význam při návrhu promptů a formátů odpovědí.

Například dlouhý systémový prompt může spotřebovat 2 000 vstupních tokenů, ale odpověď může spotřebovat 500 výstupních tokenů. Pokud předpokládáte stejnou cenu, váš rozpočet bude nepřesný. Vždy počítejte obě strany konverzace.

• Vstupní tokeny jsou levnější na milion.
• Výstupní tokeny jsou dražší na milion.
• Dlouhé prompty zvyšují náklady na vstup.
• Dlouhé odpovědi zvyšují náklady na výstup.

Naše API bez omezení používá jednotný sazebník pro vstupní i výstupní tokeny, což zjednodušuje výpočet nákladů. Platíte $0,15 za milion vstupních tokenů a $0,50 za milion výstupních tokenů. Tato jasnost vám pomůže plánovat rozpočet bez hádání.

Skryté náklady streamování

Streamování nemění počet tokenů, ale může vést k nepřesnému fakturování, pokud nesledujete bloky správně. Každý blok obsahuje část výstupu a musíte je všechny sečíst, abyste získali celkový počet výstupních tokenů.

Pokud stream předčasně zastavíte, platíte pouze za odeslané tokeny. Pokud však nepočítáte každý chunk, můžete podcenit své náklady. Použijte poslední chunk pro získání celkového počtu tokenů pro požadavek.

• Streamované části obsahují částečný text.
• Sečtěte všechny části pro celkový počet tokenů.
• Ukončete dříve, abyste ušetřili na výstupních tocenech.
• Sledujte využití na požadavek přesně.

Naše API podporuje streamování přes SSE a poslední chunk obsahuje využití tokenů. To usnadňuje sledování nákladů bez složité logiky parsování.

Ignorování tokenů systémového promptu

Systémové prompty jsou součástí vstupních tokenů a spotřebovávají stejný rozpočet jako zprávy uživatele. Mnoho vývojářů zapomíná tyto započítat, což vede k neočekávaným účtům.

Podrobný systémový prompt s instrukcemi, příklady a kontextem může zabrat tisíce tokenů. To zvyšuje vstupní náklady pro každý požadavek. Pokud máte dlouhý systémový prompt, zvažte jeho zkrácení nebo použití méně příkladů.

• Systémové prompty se počítají jako vstupní tokeny.
• Dlouhé prompty zvyšují náklady na vstup.
• Omezujte prompty pro úsporu peněz.
• Používejte méně příkladů v systémových promptech.

Naše API účtuje stejnou sazbu za systémové i uživatelské tokeny. Tato transparentnost vám pomáhá vidět skutečnou cenu struktury vašeho promptu.

Přešacení kontextového okna

Okno kontextu je maximální počet tokenů, které můžete odeslat v jednom požadavku. Zahrnuje tokeny vstupu i výstupu. Překročení tohoto limitu může způsobit chyby nebo oříznutí, což může ovlivnit vaše výsledky.

Například pokud je kontextové okno 200 000 tokenů, můžete odeslat 100 000 vstupních tokenů a získat 100 000 výstupních tokenů. Pokud odešlete 150 000 vstupních tokenů, můžete získat pouze 50 000 výstupních tokenů. To ovlivňuje vaši schopnost získat dlouhé odpovědi.

• Kontextové okno zahrnuje vstup a výstup.
• Překročení limitů způsobuje chyby.
• Vyvažujte vstupní a výstupní tokeny.
• Sledujte využití tokenů na požadavek.

Naše API podporuje kontextové okno o velikosti 100 000 tokenů s maximálním výstupem 16 000 tokenů. To stačí pro většinu případů použití, ale stále byste měli sledovat spotřebu tokenů.

Přetížení volání funkcí

Volání funkcí přidává další tokeny do vašeho požadavku. Definice funkcí a argumenty jsou součástí vstupních tokenů. To zvyšuje vstupní náklady pro každý požadavek, který používá volání funkcí.

Například definice funkce může spotřebovat 500 tokenů a argumenty mohou spotřebovat 100 tokenů. To přidá 600 tokenů k nákladům na vstup. Pokud často používáte volání funkcí, může to výrazně narůst.

• Definice funkcí přidávají vstupní tokeny.
• Argumenty přidávají vstupní tokeny.
• Volání funkcí zvyšuje vstupní náklady.
• Sledujte spotřebu tokenů při volání funkcí.

Naše API podporuje volání funkcí a tokeny jsou počítány v rámci využití vstupu. To vám pomáhá přesně odhadnout rozpočet na náklady za volání funkcí.

Vynášení a opakované požadavky

Vynášení může snížit náklady ukládáním odpovědí pro opakované požadavky. Nicméně, ne všichni poskytovatelé nabízejí vynášení a nemusí být dostupné pro všechny modely. Pokud odešlete stejný požadavek vícekrát, vynášení vám může ušetřit peníze.

Například pokud odešlete stejný prompt 100krát, ukládání do mezipaměti může snížit počet vstupních tokenů. To je užitečné pro dávkové zpracování nebo opakované dotazy. Zkontrolujte, zda váš poskytovatel nabízí ukládání do mezipaměti a jak ovlivňuje vaše fakturaci.

• Vynášení ukládá opakované odpovědi.
• Snižuje počet vstupních tokenů.
• Užitečné pro dávkové zpracování.
• Zkontrolujte možnosti ukládání do mezipaměti poskytovatele.

Naše API momentálně neposkytuje ukládání do mezipaměti, takže každý požadavek je účtován na základě skutečného použití tokenů. To je transparentní a předvídatelné.

Náklady na vícekrokové uvažování

Vícekrokové uvažování zahrnuje odesílání více požadavků pro získání konečné odpovědi. Každý požadavek přidává k celkovému počtu tokenů. To může významně zvýšit vaše náklady, pokud kroky nebudete efektivně spravovat.

Například úloha vyžadující více kroků úvažování může zahrnovat 5 požadavků, z nichž každý používá 1 000 vstupních a 500 výstupních tokenů. To celkem činí 7 500 tokenů na úlohu. Pokud to uděláte 100krát, náklady rychle narostou.

• Vícekrokové uvažování používá více požadavků.
• Každý požadavek přispívá k počtu tokenů.
• Kroky pro správu úspor nákladů.
• Sledujte celkové využití tokenů na úkol.

Naše API podporuje vícestupňové uvažování a za každý požadavek platíte na základě využití tokenů. To vám pomáhá plánovat rozpočet na složité úkoly.

Mýty o bezplatných úrovních

Mnoho poskytovatelů nabízí bezplatnou úroveň, ale často má limity na počet požadavků nebo tokenů. Tyto limity mohou být omezující a rychle můžete dojít bezplatných tokenů. Je důležité pochopit podmínky bezplatné úrovně.

Například bezplatná úroveň může nabízet 1 000 tokenů denně. Pokud odešlete dlouhý prompt, můžete všechny své tokeny spotřebovat v jednom požadavku. To může omezit vaši schopnost API důkladně otestovat.

• Bezplatné úrovně mají limity tokenů.
• Limity mohou být omezující.
• Chápejte podmínky bezplatné úrovně.
• Sledujte využití tokenů na bezplatných tarifech.

Naše API nabízí zkušební kredit $0.50 pro nové účty, platný po dobu 7 dní. To vám umožňuje vyzkoušet API bez placení, ale je omezeno na 7 dní.

Přechod na jednodušší model

Přechod na jednodušší model může snížit náklady, ale může také snížit kvalitu. Jednodušší modely jsou levnější za token, ale nemusí tak dobře zvládat složité úkoly. Zvažte kompromis mezi náklady a kvalitou.

Například jednodušší model může stát 0,05 $ za milion tokenů, ale nemusí tak dobře zvládat volání funkcí jako složitější model. Pokud potřebujete vysoce kvalitní odpovědi, možná budete muset zaplatit více.

• Jednodušší modely jsou levnější.
• Kvalita může být nižší.
• Zvažte cenu versus kvalitu.
• Otestujte různé modely pro váš případ použití.

Naše API využívá jeden uncensored model, který je optimalizován pro kvalitu a náklady. To zjednodušuje váš proces rozhodování.