API는 실제로 uncensored입니까?
네, 이 모델은 합법적인 성인 사용, 허구적 또는 논쟁적인 주제에 대해 콘텐츠 거부 없이 답변하도록 조정됩니다. 광범위한 안전 가이드라인에 따라 추측하거나 거부하는 기업용 모델과 달리 이 오픈 웨이트 모델은 직접적인 답변을 우선시합니다. 창의적이거나 성숙한 테마를 차단하는 동일한 엄격한 필터를 적용하지 않습니다. 그러나 하나의 하드 제한이 항상 적용됩니다: 미성년자가 관련된 성 콘텐츠는 거부됩니다. 원본 출력을 제공하지만, 애플리케이션 로직에서 해당 특정 예외 케이스를 처리해야 합니다. 이는 표준 모델이 문장 중간에 끊기는 무제한 스토리 생성 또는 NSFW 채팅봇에 이상적입니다.
컨텍스트 윈도우 확인
컨텍스트 윈도우는 프롬프트와 완성을 합쳐 100,000개의 토큰을 지원합니다. 이를 통해 이전 데이터 손실 없이 대용량 문서나 긴 대화 기록을 전달할 수 있습니다. 시스템 설계 시 이 한도에 도달하면 이전 메시지를 잘라내거나 요약해야 합니다. 모델은 긴 컨텍스트 전반에서 일관성을 유지하므로 역할극 시나리오에서 캐릭터 보이스 유지에 중요합니다. 사용 가능한 공간을 초과하는 프롬프트를 보내면 API가 오류를 반환합니다. 피크 사용 중 예상치 못한 단편화를 피하기 위해 토큰 예산을 신중하게 계획하세요.
출력 한도 확인
각 요청은 최대 16,000개의 토큰을 출력할 수 있습니다. max_tokens 매개변수를 명시적으로 설정하지 않으면 기본값은 2,048개 토큰에 불과합니다. 이 차이는 장문 콘텐츠 생성이나 상세한 코드 출력 시 중요합니다. 제한을 설정하지 않으면 오류처럼 보이는 잘린 응답이 반환될 수 있습니다. 전체 응답을 받으려면 API 호출 시 max_tokens을 항상 정의하세요. 이 유연성은 여러 라운드 트립 없이 짧은 답변부터 긴 에세이까지 모든 작업을 지원합니다.
스트리밍 및 토큰 수
SSE(Server-Sent Events)를 통해 스트리밍이 지원되어 프론트엔드로 토큰을 실시간으로 전달할 수 있습니다. 스트림의 마지막 청크에는 해당 요청의 총 토큰 사용량이 포함되어 별도의 사용량 엔드포인트 호출 없이 비용을 정확하게 추적할 수 있습니다. 생성된 토큰을 표시하여 느린 응답에 대한 사용자 경험을 개선할 수 있으며, 실제 소비량을 기준으로 사용자에게 요금을 청구하는 청구 로직과 결합할 수 있습니다. 이는 기존 OpenAI 호환 클라이언트와의 통합을 단순화하는 표준 기능입니다.
함수 호출 지원
함수 호출이 완전히 지원되며, 도구를 정의하고 tool_choice를 지정할 수 있습니다. 이는 사용자 입력에 기반한 구조화된 데이터 추출 또는 자동화된 작업을 가능하게 합니다. 요청에 함수 정의 목록을 보내면 모델은 응답에서 적절한 함수 호출을 반환합니다. 이는 외부 API나 데이터베이스와 상호작용하는 에이전트 구축에 필수적입니다. 원활한 통합을 위해 클라이언트 라이브러리가 tools 매개변수를 지원하는지 확인하세요. 모델은 여러 함수를 효과적으로 처리하며 도구 사용 간 컨텍스트를 유지합니다.
JSON 모드 신뢰성
JSON 모드는 response_format 매개변수를 json_object로 설정하여 제공됩니다. 이는 모델이 유효한 JSON을 출력하도록 강제하며, 이는 애플리케이션에서 데이터를 파싱하는 데 중요합니다. 완벽하지는 않지만 표준 텍스트 출력에 비해 정규식 후처리가 필요한 빈도를 크게 줄입니다. 구조화된 데이터 추출이나 프론트엔드가 특정 스키마를 기대할 때 사용하세요. 함수 호출 및 스트리밍과 잘 작동합니다. 확장하기 전에 특정 프롬프트가 요구하는 JSON 구조를 충족하는지 확인하세요.
가격 투명성
가격 체계는 단순합니다: 입력 토큰 1M 토큰당 $0.15, 출력 토큰 1M 토큰당 $0.50. 사용한 만큼만 지불하며, 만료되지 않는 선불 크레딧을 사용합니다. 오류 및 거절된 요청은 크레딧을 소모하지 않으므로 실패한 요청에 대해 지불하지 않습니다. TRC20의 USDT 또는 Base의 USDC로 충전할 수 있으며, 금액은 $20에서 $500 사이입니다. 높은 티어에서는 보너스 크레딧이 적용됩니다: $50부터 +5%, $100부터 +10%, $200부터 +15%. 구독료나 숨겨진 비용이 없어 예산을 정확히 통제할 수 있습니다.
Privacy and Data Usage
프롬프트는 모델 학습에 사용되지 않으므로 데이터가 비공개로 유지됩니다. API는 당사 자체 서버에서 호스팅되므로 제3자 애그리게이터에 의존하지 않습니다. 이메일 주소만으로 가입할 수 있어 신원이 최소화됩니다. 데이터 보존 정책은 명확하며 계정을 안전하게 관리할 수 있습니다. 독점 데이터나 민감한 대화에 우려가 있는 개발자에게 이 모델은 데이터를 개선에 사용할 수 있는 공개 API에 대한 신뢰할 수 있는 대안입니다. 이는 프로젝트에 깨끗한 시작점을 제공합니다.
속도 제한 및 동시성
키당 분당 300회 요청 및 8개의 동시 요청으로 제한됩니다. 이는 공정한 사용량을 보장하고 단일 사용자가 서버를 과부하시키는 것을 방지합니다. 더 높은 처리량이 필요한 경우 추가 키를 생성할 수 있지만, 각 계정은 동시에 하나의 활성 키만 가질 수 있습니다. 요청 본문 크기는 8 MB로 제한되며, 이는 대부분의 텍스트 기반 상호작용에 충분합니다. 피크 시간 동안 429 오류를 피하려면 사용량을 모니터링하여 이러한 제한 내에 머무르십시오. 이는 소규모 및 대규모 애플리케이션 모두에 균형 잡힌 설정입니다.
