ราคา API ของ Claude: ข้อผิดพลาดทั่วไป

ความสับสนระหว่างโทเค็นอินพุตและเอาต์พุต

ราคา API ของ Claude จัดโครงสร้างโทเค็นอินพุตและเอาท์พุตแตกต่างกัน ซึ่งสร้างความสับสนเมื่อประมาณการต้นทุน โทเค็นอินพุตถูกกว่า แต่โทเค็นเอาท์พุตมีราคาแพงกว่ามาก ความแตกต่างนี้สำคัญเมื่อคุณออกแบบพรอมต์และรูปแบบการตอบกลับ

ตัวอย่างเช่น คำสั่งระบบที่ยาวอาจใช้ 2,000 โทเค็นอินพุต แต่การตอบกลับอาจใช้ 500 โทเค็นเอาต์พุต หากคุณสมมติว่าราคาเท่ากัน งบประมาณของคุณจะคลาดเคลื่อน ควรคำนวณทั้งสองด้านของการสนทนาเสมอ

• โทเค็นอินพุตมีราคาต่อล้านต่ำกว่า
• โทเค็นเอาท์พุตมีราคาต่อล้านโทเค็นสูงกว่า
• Prompt ยาวเพิ่มต้นทุนอินพุต
• คำตอบยาวเพิ่มต้นทุนเอาต์พุต

API แบบ uncensored ของเราใช้อัตราคงที่สำหรับ input และ output เพื่อทำให้การคำนวณง่ายขึ้น คุณจ่าย $0.15 ต่อ input tokens หนึ่งล้าน และ $0.50 ต่อ output tokens หนึ่งล้าน ความชัดเจนนี้ช่วยให้คุณวางแผนงบประมาณได้โดยไม่ต้องคาดเดา

ต้นทุนที่ซ่อนอยู่ของการสตรีมมิง

การสตรีมไม่เปลี่ยนจำนวนโทเค็น แต่อาจนำไปสู่การเรียกเก็บเงินที่ไม่ถูกต้องหากคุณไม่ติดตามชิ้นส่วนอย่างถูกต้อง แต่ละชิ้นมีผลลัพธ์บางส่วน และคุณต้องรวมทั้งหมดเพื่อรับจำนวนโทเค็นเอาต์พุตทั้งหมด

หากคุณหยุดสตรีมก่อนเวลา คุณจ่ายเฉพาะสำหรับ tokens ที่ส่ง อย่างไรก็ตาม หากคุณไม่นับแต่ละ chunk คุณอาจประเมินค่าใช้จ่ายต่ำเกินไป ใช้ chunk สุดท้ายเพื่อรับการใช้งาน tokens รวมสำหรับการเรียกใช้นั้น

• ข้อมูลสตรีมประกอบด้วยข้อความบางส่วน
• รวมทุกชิ้นส่วนเพื่อหาจำนวนโทเค็นรวม
• หยุดก่อนเพื่อประหยัดโทเค็นผลลัพธ์
• ติดตามการใช้งานต่อ request อย่างแม่นยำ

API ของเรารองรับการสตรีมผ่าน SSE และชิ้นส่วนสุดท้ายรวมถึงการใช้งานโทเค็น สิ่งนี้ทำให้การติดตามต้นทุนทำได้ง่ายโดยไม่ต้องใช้ตรรกะการแยกวิเคราะห์ที่ซับซ้อน

การละเลย token ของ system prompt

system prompt เป็นส่วนหนึ่งของ input tokens และใช้งบประมาณเดียวกันกับข้อความของผู้ใช้ นักพัฒนาหลายคนลืมนับสิ่งเหล่านี้ ซึ่งนำไปสู่บิลที่ไม่คาดคิด

system prompt รายละเอียดพร้อมคำแนะนำ ตัวอย่าง และบริบทอาจใช้หลายพัน tokens สิ่งนี้เพิ่มต้นทุนข้อมูลนำเข้าสำหรับทุกคำขอ หากคุณมี system prompt ยาว ให้พิจารณาตัดทอนหรือใช้ตัวอย่างให้น้อยลง

• system prompt นับเป็น input tokens
• Prompt ยาวเพิ่มต้นทุนอินพุต
• ตัด prompt เพื่อประหยัดเงิน
• ใช้ตัวอย่างน้อยลงใน system prompts

API ของเราคิดอัตราค่าเดียวกันสำหรับโทเค็นระบบและโทเค็นผู้ใช้ ความโปร่งใสนี้ช่วยให้คุณเห็นต้นทุนที่แท้จริงของโครงสร้างพรอมต์ของคุณ

การประมาณการขนาด context window ผิดพลาด

หน้าต่างบริบทคือจำนวน tokens สูงสุดที่คุณสามารถส่งในคำขอเดียว ซึ่งรวมถึง input และ output tokens การเกินขีดจำกัดนี้อาจทำให้เกิด error หรือการตัดทอน ซึ่งอาจส่งผลต่อผลลัพธ์ของคุณ

ตัวอย่างเช่น หากหน้าต่างบริบทมีขนาด 200,000 token คุณสามารถส่ง input 100,000 token และรับ output 100,000 token ได้ หากคุณส่ง input 150,000 token คุณอาจได้รับ output เพียง 50,000 token ซึ่งส่งผลต่อความสามารถในการรับคำตอบที่ยาวนาน

• หน้าต่างบริบทรวมถึงอินพุตและเอาต์พุต
• การเกินขีดจำกัดทำให้เกิดข้อผิดพลาด
• ปรับสมดุลระหว่างโทเค็นอินพุตและเอาต์พุต
• ติดตามการใช้งานโทเค็นต่อคำขอ

API ของเรารองรับหน้าต่างบริบทขนาด 100,000 token พร้อมค่าเอาต์พุตสูงสุด 16,000 token ซึ่งเพียงพอสำหรับกรณีการใช้งานส่วนใหญ่ แต่คุณควรติดตามการใช้ token ของคุณอยู่ดี

ส่วนเกินของ Function Calling

Function calling เพิ่มโทเค็นเพิ่มเติมให้กับคำขอของคุณ นิยามฟังก์ชันและอาร์กิวเมนต์เป็นส่วนหนึ่งของโทเค็นอินพุต สิ่งนี้เพิ่มต้นทุนอินพุตสำหรับคำขอทุกครั้งที่ใช้ Function calling

ตัวอย่างเช่น คำจำกัดความของฟังก์ชันอาจใช้ 500 โทเค็น และอาร์กิวเมนต์อาจใช้ 100 โทเค็น ซึ่งเพิ่ม 600 โทเค็นให้กับต้นทุนอินพุตของคุณ หากคุณใช้การเรียกใช้ฟังก์ชันบ่อยๆ ต้นทุนนี้จะสะสมขึ้นอย่างรวดเร็ว

• คำจำกัดความของฟังก์ชันเพิ่มโทเค็นอินพุต
• Arguments เพิ่มโทเค็นอินพุต
• การเรียกฟังก์ชันเพิ่มต้นทุนอินพุต
• ติดตามการใช้งาน token สำหรับ function calling

API ของเรารองรับการเรียกใช้ฟังก์ชัน (function calling) โดยโทเค็นจะถูกนับในการใช้งานอินพุต สิ่งนี้ช่วยให้คุณประมาณงบประมาณสำหรับค่าใช้จ่ายการเรียกใช้ฟังก์ชันได้อย่างแม่นยำ

Caching and repeated requests

Caching can reduce costs by storing responses for repeated requests. However, not all providers offer caching, and it might not be available for all models. If you send the same request multiple times, caching can save you money.

ตัวอย่างเช่น หากคุณส่ง prompt เดียวกัน 100 ครั้ง การแคชสามารถลดจำนวน input token ได้ ซึ่งมีประโยชน์สำหรับการประมวลผลแบบแบตช์หรือการสอบถามซ้ำ ตรวจสอบว่าผู้ให้บริการของคุณเสนอการแคชหรือไม่ และการแคชส่งผลต่อการเรียกเก็บเงินของคุณอย่างไร

• Caching stores repeated responses.
• ลดจำนวนโทเค็นอินพุต
• มีประโยชน์สำหรับการประมวลผลแบบแบตช์
• ตรวจสอบตัวเลือกแคชของผู้ให้บริการ

API ของเราไม่มีการแคชในปัจจุบัน ดังนั้นแต่ละคำขอจะถูกคิดค่าบริการตามการใช้งานโทเค็นจริง ซึ่งโปร่งใสและคาดเดาได้

ต้นทุนการให้เหตุผลหลายขั้นตอน

การให้เหตุผลหลายขั้นตอนเกี่ยวข้องกับการส่งคำขอหลายครั้งเพื่อรับคำตอบสุดท้าย แต่ละคำขอเพิ่มจำนวนโทเค็นรวมของคุณ สิ่งนี้อาจเพิ่มต้นทุนของคุณอย่างมีนัยสำคัญหากคุณไม่จัดการขั้นตอนอย่างมีประสิทธิภาพ

ตัวอย่างเช่น งานการให้เหตุผลหลายขั้นตอนอาจเกี่ยวข้องกับการร้องขอ 5 ครั้ง แต่ละครั้งใช้ 1,000 โทเค็นอินพุตและ 500 โทเค็นเอาต์พุต ซึ่งรวมเป็น 7,500 โทเค็นต่องาน หากทำสิ่งนี้ 100 ครั้ง ต้นทุนจะเพิ่มขึ้นอย่างรวดเร็ว

• การให้เหตุผลหลายขั้นตอนใช้คำขอหลายรายการ
• แต่ละ request เพิ่มจำนวน token
• จัดการขั้นตอนเพื่อประหยัดต้นทุน
• ติดตามการใช้งานโทเค็นรวมต่องาน

API ของเรารองรับการให้เหตุผลหลายขั้นตอน (multi-step reasoning) และคุณจ่ายสำหรับการขอข้อมูลแต่ละรายการตามการใช้งานโทเค็น สิ่งนี้ช่วยให้คุณประมาณงบประมาณสำหรับงานที่ซับซ้อนได้

ความเข้าใจผิดเกี่ยวกับระดับฟรี

ผู้ให้บริการจำนวนมากเสนอระดับฟรี แต่ระดับนี้มักมีข้อจำกัดเกี่ยวกับคำขอหรือโทเค็น ข้อจำกัดเหล่านี้อาจจำกัด และคุณอาจหมดโทเค็นฟรีอย่างรวดเร็ว สิ่งสำคัญคือต้องเข้าใจเงื่อนไขของระดับฟรี

ตัวอย่างเช่น ระดับฟรีอาจเสนอ 1,000 โทเค็นต่อวัน หากคุณส่งคำขอที่ยาว คุณอาจใช้โทเค็นทั้งหมดในการร้องขอหนึ่งครั้ง ซึ่งอาจจำกัดความสามารถของคุณในการทดสอบ API อย่างละเอียด

• ระดับฟรีมีขีดจำกัดโทเค็น
• ขีดจำกัดอาจจำกัด
• ทำความเข้าใจเงื่อนไขของฟรีเทียร์
• ติดตามการใช้งานโทเค็นในแผนฟรี

API ของเราเสนอเครดิตทดลอง $0.50 สำหรับบัญชีใหม่ ซึ่งมีอายุการใช้งาน 7 วัน สิ่งนี้ช่วยให้คุณทดสอบ API ได้โดยไม่ต้องจ่าย แต่มีข้อจำกัดเพียง 7 วัน

การสลับไปใช้โมเดลที่เรียบง่ายกว่า

การสลับไปใช้โมเดลที่เรียบง่ายกว่าสามารถลดต้นทุนได้ แต่อาจลดคุณภาพลงด้วย โมเดลที่เรียบง่ายกว่ามีราคาต่อโทเค็นที่ถูกกว่า แต่อาจจัดการงานที่ซับซ้อนได้ไม่ดีเท่า พิจารณาการแลกเปลี่ยนระหว่างต้นทุนและคุณภาพ

ตัวอย่างเช่น โมเดลที่เรียบง่ายกว่าอาจมีค่าใช้จ่าย $0.05 ต่อล้านโทเค็น แต่อาจจัดการการเรียกใช้ฟังก์ชันได้ไม่ดีเท่าโมเดลที่ซับซ้อนกว่า หากคุณต้องการการตอบกลับที่มีคุณภาพสูง คุณอาจต้องจ่ายมากขึ้น

• โมเดลที่ง่ายขึ้น ราคาถูกกว่า
• คุณภาพอาจต่ำกว่า
• ลองพิจารณาต้นทุนเทียบกับคุณภาพ
• ทดสอบโมเดลที่แตกต่างกันสำหรับกรณีการใช้งานของคุณ

API ของเราใช้โมเดลแบบไม่มีเซ็นเซอร์เพียงโมเดลเดียว ซึ่งปรับแต่งมาเพื่อคุณภาพและต้นทุน ซึ่งช่วย简化กระบวนการตัดสินใจของคุณ