API có thực sự không kiểm duyệt không?
Đúng, mô hình được tinh chỉnh để trả lời mà không từ chối nội dung cho mục đích người lớn hợp pháp, giả tưởng hoặc các chủ đề gây tranh cãi. Không giống như các mô hình doanh nghiệp thường né tránh hoặc từ chối dựa trên các hướng dẫn an toàn rộng rãi, mô hình trọng lượng mở này ưu tiên các câu trả lời trực tiếp. Nó không áp dụng các bộ lọc cứng nhắc tương tự ngăn chặn các chủ đề sáng tạo hoặc trưởng thành. Tuy nhiên, một giới hạn cứng luôn áp dụng: nội dung tình dục liên quan đến trẻ vị thành niên sẽ bị từ chối. Bạn nhận được đầu ra thô, nhưng bạn vẫn cần xử lý trường hợp cạnh cụ thể đó trong logic ứng dụng của riêng mình. Điều này làm cho nó rất lý tưởng cho chatbot NSFW hoặc tạo truyện không giới hạn nơi các mô hình tiêu chuẩn ngắt quãng giữa chừng.
Kiểm tra Cửa sổ Ngữ cảnh
Cửa sổ ngữ cảnh hỗ trợ 100.000 token cho tổng cộng cả prompt và completion. Điều này cho phép bạn truyền các tài liệu lớn hoặc lịch sử hội thoại dài mà không làm mất dữ liệu cũ. Khi thiết kế hệ thống, hãy đảm bảo cắt ngắn hoặc tóm tắt các tin nhắn cũ nếu bạn tiến gần đến giới hạn này. Mô hình duy trì sự mạch lạc qua các ngữ cảnh dài, điều này rất quan trọng để duy trì giọng điệu nhân vật trong các kịch bản nhập vai. Nếu bạn gửi một prompt vượt quá không gian có sẵn, API sẽ trả về lỗi. Hãy lập ngân sách token cẩn thận để tránh việc cắt ngang không mong muốn trong thời gian sử dụng cao điểm.
Xác minh giới hạn đầu ra
Mỗi yêu cầu có thể tạo ra tối đa 16.000 token đầu ra. Nếu bạn không đặt rõ ràng tham số max_tokens, giá trị mặc định chỉ là 2.048 token. Sự khác biệt này rất quan trọng khi tạo nội dung dài hoặc đầu ra mã chi tiết. Nếu không đặt giới hạn, bạn có thể nhận được các phản hồi bị cắt ngang trông giống như lỗi. Luôn xác định max_tokens trong các lệnh gọi API của bạn để đảm bảo nhận được câu trả lời đầy đủ. Tính linh hoạt này hỗ trợ mọi thứ từ phản hồi ngắn đến các bài luận dài mà không cần nhiều lần gọi.
Streaming và Số Lượng Token
Hỗ trợ streaming qua Sự kiện gửi qua máy chủ (SSE), cho phép phân phối token theo thời gian thực đến giao diện người dùng của bạn. Chunk cuối cùng của stream bao gồm tổng số token đã sử dụng cho yêu cầu đó. Tính năng này cho phép bạn theo dõi chi phí chính xác mà không cần gọi riêng đến điểm cuối sử dụng. Bạn có thể hiển thị token khi chúng được tạo ra, cải thiện trải nghiệm người dùng cho các phản hồi chậm. Kết hợp điều này với logic tính phí của bạn để tính phí người dùng dựa trên mức tiêu thụ thực tế. Đây là một tính năng tiêu chuẩn giúp đơn giản hóa việc tích hợp với các khách hàng tương thích OpenAI hiện có.
Hỗ trợ Function Calling
Gọi hàm được hỗ trợ đầy đủ, cho phép bạn định nghĩa các công cụ và chỉ định tool_choice. Điều này cho phép trích xuất dữ liệu có cấu trúc hoặc các hành động tự động dựa trên đầu vào của người dùng. Bạn có thể gửi một danh sách các định nghĩa hàm trong yêu cầu, và mô hình sẽ trả về lệnh gọi hàm phù hợp trong phản hồi. Điều này rất quan trọng để xây dựng các tác nhân tương tác với các API hoặc cơ sở dữ liệu bên ngoài. Đảm bảo thư viện client của bạn hỗ trợ tham số tools để tích hợp liền mạch. Mô hình xử lý hiệu quả nhiều hàm, duy trì ngữ cảnh qua việc sử dụng công cụ.
Độ tin cậy Chế độ JSON
Chế độ JSON khả dụng thông qua tham số response_format đặt thành json_object. Điều này bắt buộc mô hình xuất ra JSON hợp lệ, điều rất quan trọng để phân tích cú pháp dữ liệu trong ứng dụng của bạn. Mặc dù không hoàn hảo, nhưng nó giảm đáng kể nhu cầu xử lý hậu kỳ bằng regex so với các đầu ra văn bản tiêu chuẩn. Hãy sử dụng điều này cho việc trích xuất dữ liệu có cấu trúc hoặc khi frontend của bạn mong đợi một lược đồ cụ thể. Nó hoạt động tốt với việc gọi hàm và streaming. Hãy kiểm tra các prompt cụ thể của bạn để đảm bảo cấu trúc JSON đáp ứng yêu cầu của bạn trước khi mở rộng quy mô.
Minh bạch về giá
Chi phí rõ ràng: $0.15 cho mỗi 1M token đầu vào và $0.50 cho mỗi 1M token đầu ra. Bạn chỉ trả tiền cho những gì mình sử dụng, với số dư trả trước không bao giờ hết hạn. Lỗi và từ chối không tiêu tốn số dư, vì vậy bạn không phải trả tiền cho các yêu cầu thất bại. Bạn có thể nạp tiền bằng USDT trên TRC20 hoặc USDC trên Base, với số tiền dao động từ $20 đến $500. Số dư bonus áp dụng ở các mức cao hơn: +5% từ $50, +10% từ $100 và +15% từ $200. Không có phí đăng ký hoặc chi phí ẩn có nghĩa là bạn kiểm soát ngân sách của mình một cách chính xác.
Quyền riêng tư và Sử dụng dữ liệu
Prompt của bạn không được sử dụng để huấn luyện mô hình, đảm bảo dữ liệu của bạn vẫn được bảo mật. API được lưu trữ trên máy chủ của riêng chúng tôi, vì vậy bạn không dựa vào các nhà tổng hợp bên thứ ba. Bạn có thể đăng ký chỉ với địa chỉ email, giữ danh tính của bạn ở mức tối thiểu. Chính sách lưu trữ dữ liệu rõ ràng và bạn có thể quản lý tài khoản của mình một cách bảo mật. Đối với các nhà phát triển quan tâm đến dữ liệu độc quyền hoặc các cuộc trò chuyện nhạy cảm, mô hình này cung cấp một lựa chọn thay thế đáng tin cậy cho các API công cộng có thể sử dụng dữ liệu để cải thiện. Đây là một trang giấy trắng cho các dự án của bạn.
Giới hạn tốc độ và Độ đồng thời
Bạn bị giới hạn ở 300 yêu cầu mỗi phút và 8 yêu cầu đồng thời mỗi khóa API. Điều này đảm bảo sử dụng công bằng và ngăn chặn bất kỳ người dùng nào làm quá tải máy chủ. Nếu bạn cần thông lượng cao hơn, bạn có thể tạo thêm khóa, mặc dù mỗi tài khoản bị giới hạn ở một khóa hoạt động tại một thời điểm. Kích thước thân yêu cầu được giới hạn ở 8 MB, điều này đủ cho hầu hết các tương tác dựa trên văn bản. Theo dõi việc sử dụng của bạn để nằm trong các giới hạn này và tránh lỗi 429 trong giờ cao điểm. Đây là một thiết lập cân bằng cho cả các ứng dụng quy mô nhỏ và lớn.
