Errores comunes en los precios de la API de Claude

Confusión entre tokens de entrada y salida

La tarificación de la API de Claude estructura los tokens de entrada y de salida de manera diferente, lo que crea confusión al estimar los costos. Los tokens de entrada son más baratos, pero los tokens de salida son significativamente más caros. Esta diferencia es importante cuando diseñas tus prompts y formatos de respuesta.

Por ejemplo, un prompt de sistema largo podría usar 2.000 tokens de entrada, pero la respuesta podría usar 500 tokens de salida. Si asumes un precio igual, tu presupuesto estará desviado. Siempre calcula ambos lados de la conversación.

• Los tokens de entrada son más baratos por millón.
• Los tokens de salida son más costosos por millón.
• Los prompts largos aumentan los costos de entrada.
• Las respuestas largas aumentan los costos de salida.

Nuestra API sin censura utiliza una tarifa plana para entrada y salida, simplificando este cálculo. Pagas $0.15 por cada millón de tokens de entrada y $0.50 por cada millón de tokens de salida. Esta claridad te ayuda a presupuestar sin tener que adivinar.

El costo oculto del streaming

El streaming no cambia el recuento de tokens, pero puede llevar a una facturación inexacta si no rastreas los fragmentos correctamente. Cada fragmento contiene una parte de la salida, y debes sumarlos todos para obtener el total de tokens de salida.

Si detienes una transmisión temprano, solo pagas por los tokens enviados. Sin embargo, si no cuentas cada fragmento, podrías subestimar tus costes. Utiliza el último fragmento para obtener el uso total de tokens para la solicitud.

• Los fragmentos del flujo contienen texto parcial.
• Suma todos los fragmentos para obtener el total de tokens.
• Detente a tiempo para ahorrar en tokens de salida.
• Rastrea el uso por solicitud con precisión.

Nuestra API admite streaming mediante SSE, y el último fragmento incluye el uso de tokens. Esto facilita el seguimiento de los costes sin una lógica de análisis compleja.

Ignorar tokens del prompt del sistema

Los prompts del sistema forman parte de los tokens de entrada y consumen el mismo presupuesto que los mensajes del usuario. Muchos desarrolladores olvidan contarlos, lo que lleva a facturas inesperadas.

Un prompt de sistema detallado con instrucciones, ejemplos y contexto puede utilizar miles de tokens. Esto aumenta el costo de entrada para cada solicitud. Si tienes un prompt de sistema largo, considera recortarlo o usar menos ejemplos.

• Los prompts del sistema cuentan como tokens de entrada.
• Los prompts largos aumentan los costos de entrada.
• Recorta los prompts para ahorrar dinero.
• Usa menos ejemplos en los prompts del sistema.

Nuestra API cobra la misma tarifa por los tokens del sistema y los del usuario. Esta transparencia te ayuda a ver el coste real de la estructura de tu prompt.

Sobreestimación de la ventana de contexto

La ventana de contexto es el número máximo de tokens que puedes enviar en una sola solicitud. Incluye tokens de entrada y de salida. Exceder este límite puede causar errores o truncamiento, lo que podría afectar tus resultados.

Por ejemplo, si la ventana de contexto es de 200,000 tokens, puedes enviar 100,000 tokens de entrada y obtener 100,000 tokens de salida. Si envías 150,000 tokens de entrada, podrías obtener solo 50,000 tokens de salida. Esto afecta tu capacidad para obtener respuestas largas.

• La ventana de contexto incluye entrada y salida.
• Superar los límites causa errores.
• Equilibre los tokens de entrada y salida.
• Monitor el uso de tokens por solicitud.

Nuestra API admite una ventana de contexto de 100.000 tokens, con una salida máxima de 16.000 tokens. Esto es suficiente para la mayoría de los casos de uso, pero aún debes monitorizar el consumo de tokens.

Sobrecarga de llamada de funciones

La llamada de función añade tokens extra a tu solicitud. Las definiciones de función y los argumentos forman parte de los tokens de entrada. Esto aumenta el costo de entrada para cada solicitud que utiliza llamada de función.

Por ejemplo, una definición de función podría usar 500 tokens, y los argumentos podrían usar 100 tokens. Esto añade 600 tokens a tu costo de entrada. Si usas llamadas a funciones con frecuencia, esto puede sumar rápidamente.

• Las definiciones de funciones añaden tokens de entrada.
• Los argumentos añaden tokens de entrada.
• La llamada a funciones aumenta los costos de entrada.
• Monitora el uso de tokens para llamada de funciones.

Nuestra API admite la llamada a funciones, y los tokens se cuentan en el uso de entrada. Esto te ayuda a presupuestar con precisión los costes de las llamadas a funciones.

Almacenamiento en caché y solicitudes repetidas

El almacenamiento en caché puede reducir los costos almacenando respuestas para solicitudes repetidas. Sin embargo, no todos los proveedores ofrecen almacenamiento en caché, y podría no estar disponible para todos los modelos. Si envías la misma solicitud varias veces, el almacenamiento en caché puede ahorrarte dinero.

Por ejemplo, si envías el mismo prompt 100 veces, el caché puede reducir el recuento de tokens de entrada. Esto es útil para el procesamiento por lotes o consultas repetidas. Verifica si tu proveedor ofrece caché y cómo afecta tu facturación.

• El caché almacena respuestas repetidas.
• Reduce el recuento de tokens de entrada.
• Útil para procesamiento por lotes.
• Comprueba las opciones de caché del proveedor.

Nuestra API actualmente no ofrece caché, por lo que cada solicitud se cobra según el uso real de tokens. Esto es transparente y predecible.

Costes de razonamiento en múltiples pasos

El razonamiento en múltiples pasos implica enviar varias solicitudes para obtener una respuesta final. Cada solicitud añade a tu conteo total de tokens. Esto puede aumentar significativamente tus costes si no gestionas los pasos de manera eficiente.

Por ejemplo, una tarea de razonamiento en varios pasos podría involucrar 5 solicitudes, cada una usando 1.000 tokens de entrada y 500 tokens de salida. Esto suma 7.500 tokens por tarea. Si haces esto 100 veces, el costo se acumula rápidamente.

• El razonamiento en múltiples pasos utiliza varias solicitudes.
• Cada solicitud aumenta el conteo de tokens.
• Gestiona los pasos para ahorrar costos.
• Monitor el uso total de tokens por tarea.

Nuestra API admite el razonamiento en varios pasos, y pagas por cada solicitud en función del uso de tokens. Esto te ayuda a presupuestar tareas complejas.

Conceptos erróneos sobre los niveles gratuitos

Muchos proveedores ofrecen una capa gratuita, pero a menudo tiene límites en solicitudes o tokens. Estos límites pueden ser restrictivos y podrías quedarte sin tokens gratuitos rápidamente. Es importante entender los términos de la capa gratuita.

Por ejemplo, un nivel gratuito podría ofrecer 1.000 tokens por día. Si envías un prompt largo, podrías usar todos tus tokens en una sola solicitud. Esto puede limitar tu capacidad para probar la API a fondo.

• Los niveles gratuitos tienen límites de tokens.
• Los límites pueden ser restrictivos.
• Comprender los términos de la capa gratuita.
• Monitor el uso de tokens en las capas gratuitas.

Nuestra API ofrece un crédito de prueba de $0.50 para nuevas cuentas, válido por 7 días. Esto te permite probar la API sin pagar, pero está limitado a 7 días.

Cambiar a un modelo más sencillo

Cambiar a un modelo más sencillo puede reducir costos, pero también podría reducir la calidad. Los modelos más sencillos son más baratos por token, pero podrían no manejar tareas complejas tan bien. Considera la compensación entre costo y calidad.

Por ejemplo, un modelo más simple podría costar $0.05 por millón de tokens, pero podría no manejar las llamadas a funciones tan bien como un modelo más complejo. Si necesitas respuestas de alta calidad, podrías necesitar pagar más.

• Los modelos más simples son más baratos.
• La calidad podría ser menor.
• Considera el costo frente a la calidad.
• Prueba diferentes modelos para tu caso de uso.

Nuestra API utiliza un único modelo sin censura, optimizado para calidad y coste. Esto simplifica tu proceso de toma de decisiones.