API 真的是无审查的吗?
是的,该模型专为在不进行内容拒绝的情况下回答合法成人使用、虚构或争议性主题而调整。与根据广泛安全指南进行权衡或拒绝的企业模型不同,这个开源模型优先考虑直接回答。它不应用阻止创意或成熟主题的那些严格过滤器。然而,一个硬性限制始终适用:涉及未成年人的性内容会被拒绝。您获得原始输出,但您仍然需要在自己的应用程序逻辑中处理那个特定的边缘情况。这使得它非常适合 NSFW 聊天机器人或无限制的故事生成,在这些场景中,标准模型可能会在句子中间切断。
检查上下文窗口
上下文窗口支持提示和补全合计 100,000 个 token。这允许您传递大型文档或长对话历史而不会丢失早期数据。在设计系统时,如果接近此限制,请确保截断或总结较早的消息。模型在长上下文中保持连贯性,这对于在角色扮演场景中保持角色语气至关重要。如果您发送的提示超出可用空间,API 将返回错误。请仔细规划 token 预算,以避免在高峰期使用时出现意外截断。
验证输出限制
每个请求最多可生成 16,000 个 token 的输出。如果您未显式设置 max_tokens 参数,默认值仅为 2,048 个 token。对于长文本内容生成或详细代码输出,这一区别至关重要。若不设置此限制,您可能会得到看似错误的截断响应。始终在 API 调用中定义 max_tokens,以确保获取完整答案。这种灵活性支持从简短回复到长篇散文的各种需求,无需多次往返。
流式传输与 token 计数
支持通过 Server-Sent Events (SSE) 进行流式传输,允许将 token 实时传输到你的前端。流的最后一个数据块包含该请求的总 token 使用情况。此功能让你无需单独调用使用量端点即可准确跟踪成本。你可以实时显示生成的 token,改善慢速响应的用户体验。将其与你的计费逻辑结合,根据实际消耗向用户收费。这是一个标准功能,简化了与现有 OpenAI 兼容客户端的集成。
函数调用支持
完全支持函数调用,允许您定义工具并指定 tool_choice。这支持基于用户输入的结构化数据提取或自动化操作。您可以在请求中发送函数定义列表,模型将在响应中返回相应的函数调用。这对于构建与外部 API 或数据库交互的智能体至关重要。确保您的客户端库支持 tools 参数以实现无缝集成。模型能有效处理多个函数,并在工具使用中保持上下文。
JSON 模式可靠性
JSON 模式通过 response_format 参数设置为 json_object 实现。这会强制模型输出有效的 JSON,这对于在应用程序中解析数据至关重要。虽然并非完美无缺,但相比标准文本输出,它显著减少了对正则表达式后处理的需求。将其用于结构化数据提取,或当你的前端期望特定 schema 时使用。它与函数调用和流式传输配合良好。在大规模使用前,请测试你的具体提示词,以确保 JSON 结构符合你的要求。
定价透明度
定价简单明了:输入令牌每 1M 个令牌收费 $0.15,输出令牌每 1M 个令牌收费 $0.50。您只为所用内容付费,预存信用额度永不过期。错误和拒绝不消耗信用额度,因此您无需为失败的请求付费。您可以使用 TRC20 上的 USDT 或 Base 上的 USDC 充值,金额范围为 $20 至 $500。较高层级享有 bonus 信用额度:$50 起 +5%,$100 起 +10%,$200 起 +15%。没有订阅费或隐藏费用,意味着您可以精确控制预算。
隐私与数据使用
您的提示词不用于训练模型,确保您的数据保持私密。API 托管在我们自己的服务器上,因此您不依赖第三方聚合器。您只需电子邮件即可注册,保持身份最小化。数据保留政策清晰,您可以安全地管理账户。对于担心专有数据或敏感对话的开发者来说,该模型是公共 API(可能会将数据用于改进)的可靠替代方案。这是您项目的干净起点。
速率限制与并发
每个 API 密钥限制为每分钟 300 次请求和 8 个并发请求。这确保了公平使用,并防止任何单个用户使服务器过载。如果需要更高的吞吐量,您可以生成额外的密钥,尽管每个账户一次只能保留一个活动密钥。请求体大小限制为 8 MB,这对于大多数基于文本的交互来说已经足够。监控您的使用情况,以在这些限制内并保持平衡,避免在高峰时段出现 429 错误。这是一个适合小型和大型应用程序的平衡设置。