¿Es la API realmente sin censura?
Sí, el modelo está ajustado para responder sin rechazos de contenido para uso adulto lícito, ficción o temas controversiales. A diferencia de los modelos corporativos que se matizan o rechazan basándose en directrices amplias de seguridad, este modelo de peso abierto prioriza respuestas directas. No aplica los mismos filtros rígidos que bloquean temas creativos o maduros. Sin embargo, siempre se aplica un límite estricto: se rechaza el contenido sexual que involucra a menores. Obtienes salida sin procesar, pero aún necesitas manejar ese caso específico en la lógica de tu propia aplicación. Esto lo hace ideal para chatbots NSFW o generación de historias sin restricciones donde los modelos estándar cortan la respuesta a mitad de frase.
Verifica la Ventana de Contexto
La ventana de contexto admite 100,000 tokens combinados para prompt y completion. Esto te permite pasar documentos grandes o historiales de conversaciones largas sin perder los datos anteriores. Al diseñar tu sistema, asegúrate de truncar o resumir los mensajes antiguos si te acercas a este límite. El modelo mantiene la coherencia en contextos largos, lo cual es crítico para mantener la voz del personaje en escenarios de roleplay. Si envías un prompt que excede el espacio disponible, la API devolverá un error. Planifica tu presupuesto de tokens cuidadosamente para evitar truncamientos inesperados durante el uso intensivo.
Verificar límites de salida
Cada solicitud puede generar hasta 16,000 tokens de salida. Si no estableces explícitamente el parámetro max_tokens, el valor predeterminado es de solo 2,048 tokens. Esta distinción es importante para la generación de contenido extenso o salidas de código detalladas. Sin establecer el límite, podrías obtener respuestas truncadas que parezcan errores. Define siempre max_tokens en tus llamadas a la API para asegurarte de recibir la respuesta completa. Esta flexibilidad admite desde respuestas cortas hasta ensayos largos sin necesidad de múltiples rondas.
Streaming y Conteos de Tokens
Se admite streaming mediante Server-Sent Events (SSE), lo que permite la entrega de tokens en tiempo real a tu frontend. El último fragmento del flujo incluye el uso total de tokens para esa solicitud. Esta característica te permite rastrear los costos con precisión sin realizar una llamada adicional a un endpoint de uso. Puedes mostrar los tokens a medida que se generan, mejorando la experiencia del usuario para respuestas lentas. Combina esto con tu lógica de facturación para cobrar a los usuarios según el consumo real. Es una característica estándar que simplifica la integración con clientes compatibles con OpenAI existentes.
Soporte para Llamada de Función
La llamada a funciones es totalmente compatible, lo que te permite definir herramientas y especificar tool_choice. Esto habilita la extracción de datos estructurados o acciones automatizadas basadas en la entrada del usuario. Puedes enviar una lista de definiciones de funciones en la solicitud y el modelo devolverá la llamada a función adecuada en la respuesta. Esto es esencial para construir agentes que interactúan con APIs o bases de datos externas. Asegúrate de que tu biblioteca cliente admita el parámetro tools para una integración perfecta. El modelo maneja múltiples funciones de manera efectiva, manteniendo el contexto a través del uso de herramientas.
Fiabilidad del modo JSON
El modo JSON está disponible a través del parámetro response_format establecido en json_object. Esto obliga al modelo a generar JSON válido, lo cual es crucial para analizar datos en tu aplicación. Aunque no es perfecto, reduce significativamente la necesidad de postprocesamiento con regex en comparación con las salidas de texto estándar. Úsalo para la extracción de datos estructurados o cuando tu frontend espera un esquema específico. Funciona bien con la llamada de funciones y el streaming. Prueba tus prompts específicos para asegurar que la estructura JSON cumple tus requisitos antes de escalar.
Transparencia en los precios
La facturación es sencilla: $0.15 por cada 1M de tokens de entrada y $0.50 por cada 1M de tokens de salida. Pagas solo por lo que usas, con un crédito prepagado que nunca caduca. Los errores y las denegaciones no consumen créditos, por lo que no pagas por las solicitudes fallidas. Puedes recargar con USDT en TRC20 o USDC en Base, con montos que van desde $20 hasta $500. El crédito bonificado se aplica en niveles superiores: +5% desde $50, +10% desde $100 y +15% desde $200. Sin cuotas de suscripción ni costes ocultos, lo que significa que controlas tu presupuesto con exactitud.
Privacidad y uso de datos
Tus prompts no se utilizan para entrenar el modelo, asegurando que tus datos permanezcan privados. La API está alojada en nuestros propios servidores, por lo que no dependes de agregadores de terceros. Puedes registrarte solo con una dirección de correo electrónico, manteniendo tu identidad mínima. Las políticas de retención de datos son claras y puedes gestionar tu cuenta de forma segura. Para desarrolladores preocupados por datos propietarios o conversaciones sensibles, este modelo ofrece una alternativa confiable a las APIs públicas que pueden utilizar los datos para mejoras. Es una pizarra limpia para tus proyectos.
Límites de velocidad y concurrencia
Estás limitado a 300 solicitudes por minuto y 8 solicitudes concurrentes por clave de API. Esto garantiza un uso justo y evita que un solo usuario sature los servidores. Si necesitas un mayor rendimiento, puedes generar claves adicionales, aunque cada cuenta está limitada a una clave activa a la vez. El tamaño del cuerpo de la solicitud está limitado a 8 MB, lo cual es suficiente para la mayoría de las interacciones basadas en texto. Monitorea tu uso para permanecer dentro de estos límites y evitar errores 429 durante las horas pico. Es una configuración equilibrada tanto para aplicaciones pequeñas como a gran escala.
