L'API è effettivamente non censurata?
Sì, il modello è ottimizzato per rispondere senza rifiuti di contenuti per l'uso adulto lecito, la fantasia o argomenti controversi. A differenza dei modelli aziendali che si cautelano o rifiutano in base a linee guida di sicurezza ampie, questo modello open-weight privilegia le risposte dirette. Non applica gli stessi filtri rigidi che bloccano temi creativi o maturi. Tuttavia, si applica sempre un limite rigido: il contenuto sessuale che coinvolge minori viene rifiutato. Ottieni un output grezzo, ma devi comunque gestire questo caso limite specifico nella logica della tua applicazione. Ciò lo rende ideale per chatbot NSFW o generazione di storie senza restrizioni dove i modelli standard si interrompono a metà frase.
Verifica la Finestra di Contesto
La finestra di contesto supporta 100.000 token per prompt e completamento combinati. Questo ti permette di inviare documenti di grandi dimensioni o cronologie di conversazioni lunghe senza perdere i dati precedenti. Quando progetti il tuo sistema, assicurati di troncare o riassumere i messaggi più vecchi se ti avvicini a questo limite. Il modello mantiene la coerenza su contesti lunghi, aspetto cruciale per preservare la voce del personaggio negli scenari di roleplay. Se invii un prompt che supera lo spazio disponibile, l'API restituirà un errore. Pianifica attentamente il tuo budget di token per evitare troncamenti imprevisti durante i picchi di utilizzo.
Verifica i limiti di output
Ogni richiesta può generare fino a 16.000 token di output. Se non imposti esplicitamente il parametro max_tokens, il valore predefinito è solo 2.048 token. Questa distinzione è importante per la generazione di contenuti lunghi o output di codice dettagliati. Senza impostare il limite, potresti ricevere risposte troncate che sembrano errori. Definisci sempre max_tokens nelle tue chiamate API per assicurarti di ricevere la risposta completa. Questa flessibilità supporta tutto, dalle brevi risposte ai saggi lunghi, senza bisogno di più round-trip.
Streaming e Conteggi dei Token
Lo streaming è supportato tramite Server-Sent Events (SSE), consentendo la consegna dei token in tempo reale al tuo frontend. L'ultimo chunk dello stream include l'utilizzo totale dei token per quella richiesta. Questa funzionalità ti consente di tracciare i costi in modo accurato senza effettuare una chiamata separata a un endpoint di utilizzo. Puoi visualizzare i token man mano che vengono generati, migliorando l'esperienza utente per le risposte lente. Combina questa funzionalità con la tua logica di fatturazione per addebitare agli utenti in base al consumo effettivo. È una funzionalità standard che semplifica l'integrazione con i client OpenAI-compatible esistenti.
Supporto al Function Calling
Il function calling è completamente supportato, consentendoti di definire gli strumenti e specificare tool_choice. Questo abilita l'estrazione di dati strutturati o azioni automatizzate basate sull'input dell'utente. Puoi inviare un elenco di definizioni di funzione nella richiesta e il modello restituirà la chiamata di funzione appropriata nella risposta. Questo è essenziale per costruire agenti che interagiscono con API o database esterni. Assicurati che la tua libreria client supporti il parametro tools per un'integrazione senza interruzioni. Il modello gestisce efficacemente più funzioni, mantenendo il contesto durante l'uso degli strumenti.
Affidabilità modalità JSON
La modalità JSON è disponibile tramite il parametro response_format impostato su json_object. Questo obbliga il modello a restituire JSON valido, fondamentale per l'analisi dei dati nell'applicazione. Sebbene non perfetta, riduce significativamente la necessità di post-elaborazione con regex rispetto agli output di testo standard. Usarla per l'estrazione di dati strutturati o quando il frontend si aspetta uno schema specifico. Funziona bene con il function calling e lo streaming. Testare i prompt specifici per assicurarsi che la struttura JSON soddisfi i requisiti prima di scalare.
Trasparenza sui Prezzi
I prezzi sono semplici: $0.15 per 1M di token di input e $0.50 per 1M di token di output. Paghi solo ciò che usi, con credito prepagato che non scade mai. Errori e rifiuti non consumano crediti, quindi non paghi per le richieste fallite. Puoi ricaricare con USDT su TRC20 o USDC su Base, con importi che vanno da $20 a $500. Il credito bonus si applica ai livelli superiori: +5% da $50, +10% da $100 e +15% da $200. Nessun canone o costi nascosti significa che controlli esattamente il tuo budget.
Privacy e Utilizzo dei Dati
I tuoi prompt non vengono utilizzati per l'addestramento del modello, garantendo che i tuoi dati rimangano privati. L'API è ospitata sui nostri server, quindi non dipendi da aggregatori di terze parti. Puoi registrarti solo con un indirizzo email, mantenendo la tua identità minima. Le politiche di conservazione dei dati sono chiare e puoi gestire il tuo account in modo sicuro. Per gli sviluppatori preoccupati per i dati proprietari o le conversazioni sensibili, questo modello offre un'alternativa affidabile alle API pubbliche che potrebbero utilizzare i dati per il miglioramento. È una pagina bianca per i tuoi progetti.
Limiti di frequenza e concorrenza
Sei limitato a 300 richieste al minuto e 8 richieste concorrenti per chiave API. Questo garantisce un utilizzo equo e impedisce a un singolo utente di sovraccaricare i server. Se hai bisogno di una maggiore capacità di elaborazione, puoi generare chiavi aggiuntive, anche se ogni account è limitato a una chiave attiva alla volta. La dimensione del corpo della richiesta è limitata a 8 MB, che è sufficiente per la maggior parte delle interazioni basate su testo. Monitora il tuo utilizzo per rimanere entro questi limiti ed evitare errori 429 durante i picchi di traffico. È una configurazione equilibrata sia per applicazioni piccole che su larga scala.
