OpenAI GPT-4o-mini preview với ngữ cảnh mở rộng dành cho tạo văn bản theo hướng tìm kiếm với chi phí thấp.
Mô hình này là một biến thể xem trước của GPT-4o-mini từ OpenAI, được tối ưu hóa cho việc tạo văn bản theo hướng tìm kiếm. Nó chỉ chấp nhận đầu vào văn bản và cung cấp cửa sổ ngữ cảnh 128.000 token,…
Mô hình này xuất sắc trong việc hiểu và sinh văn bản dựa trên ngữ cảnh lớn (lên đến 128k token) và tạo đầu ra lên đến 16.384 token. Nó giữ lại các điểm mạnh cốt lõi của GPT-4o-mini: suy luận nhanh, tuân theo hướng dẫn tốt và hiệu quả về chi phí. Quá trình tinh chỉnh tìm kiếm-xem trước có thể cải thiện khả năng trích xuất các đoạn liên quan, so sánh thông tin và trả lời các câu hỏi yêu cầu quét các đoạn văn dài. Nó có thể được sử dụng để tóm tắt, trả lời câu hỏi, trích xuất thông tin và hội thoại nhiều lượt miễn là đầu vào vẫn là văn bản. Theo mặc định, nó không hỗ trợ gọi hàm hoặc sử dụng công cụ, mặc dù bạn có thể tích hợp kết quả tìm kiếm bên ngoài vào prompt của mình.
Dựa trên thiết kế, mô hình này phù hợp nhất cho các tác vụ mà người dùng cung cấp một khối văn bản dài chứa thông tin cần thiết để tạo ra câu trả lời. Điều này bao gồm các tình huống như: phân tích một tập hợp kết quả tìm kiếm (được cung cấp dưới dạng văn bản), so sánh mô tả sản phẩm, trích xuất các dữ kiện chính từ bài báo nghiên cứu, hoặc tóm tắt biên bản cuộc họp. Ngữ cảnh 128k cho phép xử lý toàn bộ sách hoặc bộ sưu tập nhiều tài liệu trong một yêu cầu. Tuy nhiên, mô hình này có thể không tối ưu cho việc viết sáng tạo, sinh mã, hoặc các tác vụ yêu cầu hiểu biết đa phương thức. Trong những trường hợp đó, hãy cân nhắc các mô hình GPT-4o-mini hoặc GPT-4o tiêu chuẩn.
Nếu nhiệm vụ của bạn rất đơn giản—chẳng hạn như hỏi đáp ngắn hoặc phân loại—và không yêu cầu cửa sổ ngữ cảnh lớn hoặc tinh chỉnh tìm kiếm chuyên biệt, một mô hình rẻ hơn như GPT-4o-mini (không có bản xem trước) hoặc thậm chí GPT-3.5 Turbo có thể đủ dùng. Giá của mô hình xem trước giống hệt GPT-4o-mini, do đó chi phí không phải là yếu tố khác biệt. Tuy nhiên, nếu độ trễ là ưu tiên hàng đầu, GPT-4o-mini đã là một trong những mô hình nhanh nhất; phiên bản xem trước sẽ có tốc độ tương tự. Nếu bạn không cần trọng tâm tìm kiếm, GPT-4o-mini tiêu chuẩn có thể được kiểm tra rộng rãi và ổn định hơn.
Số token đầu ra tối đa cho mỗi yêu cầu là 16,384. Ngữ cảnh đầu vào có thể lên tới 128,000 token. Đây là các giới hạn hào phóng cho phép các phản hồi dài và ngữ cảnh rất dài. Tuy nhiên, vì mô hình chỉ hỗ trợ văn bản, tất cả token phải là văn bản. Không có hỗ trợ gốc cho dữ liệu có cấu trúc như áp đặt lược đồ JSON, mặc dù bạn có thể hướng dẫn mô hình xuất ra JSON. Bản xem trước có thể có giới hạn tốc độ; khi sử dụng OrcaRouter, các giới hạn đó phụ thuộc vào cấp tài khoản của bạn và khả năng sẵn sàng của nhà cung cấp backend.
OpenAI chưa công bố điểm chuẩn riêng cho mô hình xem trước cụ thể này. Tuy nhiên, GPT-4o-mini cơ bản được biết đến là đạt kết quả mạnh mẽ trên nhiều điểm chuẩn NLP trong khi nhanh hơn và rẻ hơn đáng kể so với GPT-4o. Người dùng nên mong đợi hiệu suất tổng thể tương tự, với khả năng đạt kết quả tốt hơn trên các tác vụ liên quan đến truy xuất thông tin hoặc suy luận ngữ cảnh dài nhờ vào tinh chỉnh tìm kiếm. Nếu không có điểm chuẩn chính thức, bạn nên tự đánh giá mô hình trên bộ kiểm thử của riêng mình để đo lường hiệu quả cho lĩnh vực của bạn.
GPT-4o-mini là một trong những mô hình nhanh nhất trong dòng GPT-4, và phiên bản xem trước này có độ trễ tương đương. Thời gian đến token đầu tiên (time-to-first-token) điển hình thấp, phù hợp cho các ứng dụng tương tác. Độ trễ chính xác phụ thuộc vào kích thước yêu cầu, độ dài đầu ra và tải hiện tại của nhà cung cấp. Ngữ cảnh 128k có thể làm tăng thời gian đến token đầu tiên so với các ngữ cảnh ngắn hơn, nhưng một khi quá trình streaming bắt đầu, các token được tạo ra nhanh chóng. OrcaRouter không thêm độ trễ đáng kể; các lệnh gọi API được tối ưu hóa để có độ trễ tối thiểu.
Thế mạnh chính là sự kết hợp giữa tốc độ cao, chi phí thấp và khả năng xử lý các ngữ cảnh rất dài. Đối với các tác vụ mà câu trả lời có sẵn trong văn bản được cung cấp, mô hình này có thể trích xuất nó một cách hiệu quả mà không phải chịu chi phí cao hơn của GPT-4o. Nó cũng kế thừa khả năng tuân thủ hướng dẫn mạnh mẽ của GPT-4o-mini. Tuy nhiên, nó có thể không sánh được với khả năng suy luận tinh tế, sáng tạo hoặc độ chính xác thực tế của các mô hình lớn hơn như GPT-4o hay GPT-4 Turbo. Trong các tác vụ suy luận phức tạp, các mô hình lớn hơn thường hoạt động tốt hơn, nhưng với độ trễ và chi phí cao hơn.
Ở chế độ xem trước, mô hình có thể có các lỗi chưa được phát hiện hoặc hành vi không nhất quán. Mô hình chưa được kiểm thử rộng rãi như các bản phát hành ổn định. Việc tinh chỉnh tìm kiếm có thể tạo ra đầu ra bất ngờ khi đầu vào không chứa đủ thông tin, có khả năng dẫn đến ảo giác. Mô hình không thể sử dụng các công cụ bên ngoài hoặc duyệt web trừ khi bạn cung cấp nội dung liên quan. Nếu tác vụ của bạn yêu cầu kết quả tìm kiếm trực tuyến mới nhất, bạn sẽ cần phải đưa chúng vào prompt một cách thủ công. Ngoài ra, mô hình không hỗ trợ hình ảnh hoặc âm thanh, hạn chế việc sử dụng trong các kịch bản đa phương thức.
OrcaRouter chuyển tiếp giá của nhà cung cấp mà không tính thêm phí. Đối với openai/gpt-4o-mini-search-preview-2025-03-11, chi phí là $0.15 cho mỗi 1 triệu token đầu vào và $0.60 cho mỗi 1 triệu token đầu ra. Token đầu vào bao gồm toàn bộ prompt (tin nhắn hệ thống, tin nhắn người dùng và bất kỳ lịch sử nào). Token đầu ra là văn bản được tạo ra. Không có phí bổ sung nào từ OrcaRouter. Điều này làm cho mô hình rất phải chăng cho việc sử dụng khối lượng lớn, đặc biệt khi xử lý các ngữ cảnh dài.
Không có chiết khấu bộ nhớ đệm cụ thể nào được đề cập cho mô hình này trên OrcaRouter. Giá cả là theo token, trả theo mức sử dụng. Một số nhà cung cấp cung cấp bộ nhớ đệm prompt giúp giảm chi phí cho các tiền tố lặp lại, nhưng điều này chưa được xác nhận cho phiên bản xem trước này. Thông thường, OpenAI có thể cung cấp bộ nhớ đệm cho một số mô hình trong API của họ, nhưng phiên bản xem trước này có thể không đủ điều kiện. Kiểm tra tài liệu của OpenAI để biết các chính sách bộ nhớ đệm mới nhất. Trên OrcaRouter, bạn bị tính phí cùng một mức giá bất kể mô hình sử dụng như thế nào.
Với mức đầu vào $0.15 / đầu ra $0.60 trên một triệu token, giá này giống hệt với GPT-4o-mini tiêu chuẩn. Điều đó khiến nó rẻ hơn đáng kể so với GPT-4o ($2.50 đầu vào / $10 đầu ra) và GPT-4 Turbo ($10 đầu vào / $30 đầu ra). Nó đắt hơn các mô hình cũ hơn như GPT-3.5 Turbo ($0.50/$1.50 trên một triệu?). Tuy nhiên, giá trị đến từ ngữ cảnh lớn và tinh chỉnh tìm kiếm. Nếu bạn cần toàn bộ ngữ cảnh, lợi thế về chi phí so với các mô hình lớn hơn là đáng kể.
Để sử dụng mô hình, hãy đặt URL cơ sở API của bạn thành https://api.orcarouter.ai/v1, khóa API của bạn (từ OrcaRouter) và ID mô hình chính xác là "openai/gpt-4o-mini-search-preview-2025-03-11". Ví dụ chuẩn của OpenAI Python client: client = OpenAI(api_key="your_orcarouter_key", base_url="https://api.orcarouter.ai/v1") response = client.chat.completions.create( model="openai/gpt-4o-mini-search-preview-2025-03-11", messages=[{"role": "user", "content": "Your prompt"}] ) Tất cả các tham số hoàn tất cuộc trò chuyện tiêu chuẩn đều được hỗ trợ, bao gồm temperature, max_tokens, top_p, frequency_penalty, presence_penalty và stop sequences. Hỗ trợ phát trực tuyến (streaming) bằng cách sử dụng stream=True.
Mô hình hỗ trợ các tham số tương tự như API OpenAI Chat Completions. Các tham số chính: temperature (mặc định 1.0, phạm vi 0-2), top_p (mặc định 1.0), max_tokens (mặc định thay đổi, có thể đặt tối đa 16384), stop (danh sách chuỗi), frequency_penalty (mặc định 0), presence_penalty (mặc định 0) và logit_bias. Bạn cũng có thể truyền user_id để giám sát. Hiện chưa hỗ trợ sẵn lược đồ response_format; nếu cần đầu ra có cấu trúc, hãy sử dụng hướng dẫn trong prompt. Mô hình tôn trọng các tin nhắn hệ thống để thiết lập ngữ cảnh.
Việc di chuyển không yêu cầu thay đổi mã nguồn đối với cấu trúc yêu cầu ngoài việc cập nhật model ID. Trong lệnh gọi API của bạn, hãy thay thế chuỗi model bằng "openai/gpt-4o-mini-search-preview-2025-03-11". Đảm bảo base URL của bạn trỏ đến OrcaRouter (https://api.orcarouter.ai/v1) nếu bạn chưa sử dụng. Vì đây là bản xem trước, hãy kiểm tra kỹ lưỡng: phản hồi có thể khác nhau về phong cách hoặc độ chính xác. Bạn có thể chuyển đổi có điều kiện giữa các model trong ứng dụng của mình bằng cách lưu trữ model ID trong cấu hình. Theo dõi hiệu suất và chi phí để đảm bảo bản xem trước đáp ứng nhu cầu của bạn trước khi triển khai đầy đủ.
Cả hai mô hình đều có cùng kiến trúc cơ bản và mức giá. GPT-4o-mini tiêu chuẩn là mô hình đa năng, không có tinh chỉnh tìm kiếm cụ thể. Phiên bản xem trước được thiết kế để cải thiện hiệu suất trong các tác vụ liên quan đến trích xuất và tổng hợp thông tin từ các ngữ cảnh văn bản lớn, chẳng hạn như phân tích kết quả tìm kiếm. Trong thực tế, phiên bản xem trước có thể xử lý các lời nhắc dài với nhiều dữ kiện chính xác hơn, trong khi phiên bản tiêu chuẩn có thể tốt hơn cho các cuộc hội thoại mở, viết sáng tạo hoặc các tác vụ không cần hành vi tìm kiếm. Nếu ứng dụng của bạn đã hoạt động với GPT-4o-mini tiêu chuẩn, việc thử nghiệm phiên bản xem trước có rủi ro thấp do API giống hệt nhau.
GPT-4o là mô hình đa phương thức chủ lực của OpenAI với khả năng suy luận cao hơn, hiểu hình ảnh và cửa sổ ngữ cảnh lớn hơn (128k token). Tuy nhiên, nó đắt hơn đáng kể ($2.50/$10 cho mỗi triệu token) và chậm hơn. Bản xem trước tìm kiếm của GPT-4o-mini đánh đổi một phần độ sâu suy luận để lấy tốc độ và chi phí. Đối với các tác vụ chỉ dựa trên văn bản và không yêu cầu suy luận phức tạp nhiều bước, bản xem trước có thể đủ dùng với chi phí chỉ bằng một phần nhỏ. Đối với các tác vụ cần đầu vào đa phương thức hoặc độ chính xác cao hơn, GPT-4o vẫn vượt trội.
Claude 3 Haiku (Anthropic) và Gemini 1.5 Flash (Google) cũng là những mô hình nhanh, rẻ với ngữ cảnh lớn. Haiku có ngữ cảnh 200k token, Flash lên tới 1M. Giá cả khác nhau. Bản xem trước tìm kiếm của GPT-4o-mini là duy nhất vì nó là bản xem trước của một biến thể được tinh chỉnh tìm kiếm từ OpenAI. Nếu không có so sánh điểm chuẩn trực tiếp, thật khó để nói mô hình nào tốt nhất. Cả ba đều xuất sắc cho các tác vụ truy xuất thông tin. Sự lựa chọn có thể phụ thuộc vào khả năng tương thích hệ sinh thái, phong cách prompt và hiệu suất cụ thể trên dữ liệu của bạn. OrcaRouter cung cấp quyền truy cập thống nhất vào tất cả chúng, cho phép thử nghiệm A/B dễ dàng.
Chọn mô hình này nếu yêu cầu chính của bạn là hiệu quả về chi phí, thời gian phản hồi nhanh và bạn đang làm việc với đầu vào chỉ văn bản không yêu cầu suy luận nâng cao. Mô hình này lý tưởng cho các ứng dụng khối lượng lớn, nơi ngữ cảnh của mỗi yêu cầu lớn (ví dụ: xử lý tài liệu dài) nhưng đầu ra tương đối ngắn. Nếu bạn cần độ chính xác cao nhất, đặc biệt trong các truy vấn mơ hồ hoặc phức tạp, hoặc cần xử lý hình ảnh, thì GPT-4o là lựa chọn tốt hơn. Mô hình xem trước cũng phù hợp để tạo nguyên mẫu và thử nghiệm trước khi cam kết với mô hình chi phí cao hơn.
Tương thích OpenAI — giữ nguyên SDK bạn đang dùng
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4o-mini-search-preview-2025-03-11",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)max_tokensresponse_formatstreamstructured_outputsweb_search_options| Đầu vào / 1M tokens | $0.150 |
| Đầu ra / 1M tokens | $0.600 |
| Tiền tệ | USD |
Ước tính theo giá niêm yết
Chỉ là ước tính — số token thực tế phụ thuộc vào bộ tách token của nhà cung cấp.
GET /api/public/models/openai/gpt-4o-mini-search-preview-2025-03-11Mở @misc{orcarouter_gpt_4o_mini_search_preview_2025_03_11,
title = {openai/gpt-4o-mini-search-preview-2025-03-11 API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4o-mini-search-preview-2025-03-11}
}openai. (n.d.). openai/gpt-4o-mini-search-preview-2025-03-11 API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4o-mini-search-preview-2025-03-11