GPT-4o ("o" cho "omni") là mô hình AI mới nhất của OpenAI, hỗ trợ cả đầu vào văn bản và hình ảnh với đầu ra văn bản. Nó duy trì mức độ thông minh của [GPT-4 Turbo](/models/openai/gpt-4-turbo) trong khi nhanh gấp đôi...
GPT-4o là mô hình ngôn ngữ lớn đa phương thức do OpenAI phát triển. Nó chấp nhận đầu vào dạng văn bản, hình ảnh và tệp tin, đồng thời xuất ra văn bản. Mô hình này được thiết kế cho những người dùng…
GPT-4o vượt trội trong suy luận đa phương thức, xử lý ngữ cảnh dài và giải quyết vấn đề toán học. Ngữ cảnh 128k token cho phép nó lưu giữ và tham chiếu lượng lớn thông tin, khiến nó hữu ích cho các tác vụ như phân tích tài liệu, tạo mã trên toàn bộ dự án và các cuộc hội thoại nhiều lượt phức tạp. Mô hình đạt 75,9 trên điểm chuẩn MATH-500, cho thấy khả năng mạnh mẽ trong giải quyết các bài toán. Ngoài ra, khả năng chấp nhận đầu vào hình ảnh và tệp tin có nghĩa là nó có thể suy luận về nội dung trực quan — chẳng hạn như sơ đồ, biểu đồ hoặc ảnh chụp — kết hợp với văn bản. Trên OrcaRouter, bạn có thể tận dụng những điểm mạnh này mà không phải trả bất kỳ khoản phụ phí nào so với giá niêm yết của OpenAI.
GPT-4o rất hiệu quả cho các tác vụ yêu cầu cả hiểu biết văn bản và hình ảnh. Ví dụ bao gồm: trả lời câu hỏi về sơ đồ trong sách giáo khoa, trích xuất dữ liệu từ hóa đơn đã quét, tạo mã dựa trên hình ảnh wireframe, hoặc tóm tắt một bài nghiên cứu dài có hình ảnh. Ngữ cảnh lớn của nó cũng phù hợp để phân tích toàn bộ cơ sở mã hoặc nhật ký hội thoại dài. Lý luận toán học là một thế mạnh khác, thể hiện qua điểm số 75.9 trên MATH-500. Trên OrcaRouter, các trường hợp sử dụng này rất dễ thực hiện—bạn gửi một yêu cầu tương thích OpenAI chuẩn với các loại nội dung phù hợp, và mô hình trả về phản hồi dạng văn bản.
Nếu tác vụ của bạn không yêu cầu đầu vào đa phương thức hoặc ngữ cảnh lớn, một mô hình rẻ hơn có thể tiết kiệm chi phí hơn. Ví dụ, đối với các tác vụ phân loại văn bản, tóm tắt hoặc dịch thuật đơn giản phù hợp với ngữ cảnh nhỏ hơn, các mô hình như GPT-3.5 Turbo (có giá $0.50 cho mỗi 1M token đầu vào và $1.50 cho mỗi 1M token đầu ra) rẻ hơn đáng kể. Chi phí đầu vào của GPT-4o là $2.50 cho mỗi 1M token, cao gấp năm lần so với GPT-3.5 Turbo. Nếu bạn đang xử lý khối lượng lớn dữ liệu chỉ gồm văn bản mà không cần suy luận đa phương thức, một mô hình nhỏ hơn có thể giảm chi phí. OrcaRouter cung cấp nhiều loại mô hình để bạn có thể chọn sự cân bằng giữa hiệu suất và giá cả tốt nhất.
GPT-4o được thiết kế để chấp nhận hình ảnh và tệp làm đầu vào, cho phép thực hiện các tác vụ như trả lời câu hỏi trực quan, chú thích hình ảnh và hiểu tài liệu. Mặc dù các điểm chuẩn đa phương thức cụ thể không được cung cấp trong các dữ kiện hiện có, kiến trúc của mô hình hỗ trợ suy luận kết hợp giữa văn bản và hình ảnh. Ví dụ, mô hình có thể đếm vật thể trong một hình ảnh hoặc diễn giải một biểu đồ. Mô hình chỉ xuất ra văn bản, không phải hình ảnh. Trên OrcaRouter, các yêu cầu đa phương thức được gửi bằng cách sử dụng các tham số giống như API của OpenAI: bao gồm một phần image_url hoặc nội dung tệp trong mảng messages. Mô hình xử lý dữ liệu trực quan và trả về phản hồi dạng văn bản dựa trên đầu vào kết hợp.
GPT-4o đạt điểm 75.9 trên chuẩn đánh giá MATH-500. MATH-500 là một tập con của bộ dữ liệu MATH, bao gồm 500 bài toán khó thuộc nhiều chủ đề như đại số, hình học và giải tích. Điểm 75.9 có nghĩa là mô hình giải đúng khoảng 76% các bài toán này. Điều này cho thấy khả năng suy luận toán học mạnh mẽ, mặc dù chưa hoàn hảo. Để so sánh, nhiều mô hình nhỏ hơn đạt điểm dưới 50 trên các chuẩn tương tự. Điểm số này phản ánh khả năng của mô hình trong việc thực hiện suy luận nhiều bước và xử lý ký hiệu toán học. Trên OrcaRouter, bạn có thể sử dụng GPT-4o cho các tác vụ liên quan đến toán học như dạy kèm, ôn thi, hoặc kiểm tra tính toán.
Giống như tất cả các mô hình ngôn ngữ lớn khác, GPT-4o có những hạn chế nhất định. Mô hình có thể đưa ra câu trả lời không chính xác hoặc bịa đặt, đặc biệt là về những chủ đề có dữ liệu huấn luyện hạn chế hoặc yêu cầu kiến thức rất mới (thời điểm cắt dữ liệu huấn luyện của nó không được cung cấp trong các dữ kiện, nhưng là một mô hình OpenAI thì nó có một ngưỡng kiến thức). Nó có thể nhạy cảm với cách diễn đạt câu lệnh và gặp khó khăn khi xử lý các hướng dẫn mơ hồ. Mặc dù đạt điểm MATH-500 cao, nhưng nó không phải là bất khả chiến bại đối với các chứng minh toán học phức tạp. Mô hình xử lý hình ảnh nhưng không tạo ra hình ảnh. Ngoài ra, cửa sổ ngữ cảnh lớn (128k token) có thể dẫn đến việc sử dụng token tăng lên, làm tăng chi phí nếu không được quản lý cẩn thận. Trên OrcaRouter, bạn có thể giảm thiểu một số vấn đề bằng cách điều chỉnh các tham số như temperature và top_p.
Các con số về độ trễ chính xác cho GPT-4o không được cung cấp trong các dữ kiện. Nhìn chung, GPT-4o là một mô hình lớn và sẽ có độ trễ cao hơn so với các mô hình nhỏ hơn như GPT-3.5 Turbo hay Llama 3.1 8B. Tuy nhiên, nó có thể đã được tối ưu hóa để suy luận nhanh hơn so với GPT-4 gốc. Thông qua OrcaRouter, bạn có thể mong đợi thời gian phản hồi tương tự như khi nhận trực tiếp từ OpenAI, vì nền tảng này định tuyến các yêu cầu mà không cần xử lý thêm. Đối với các ứng dụng thời gian thực nơi tốc độ là yếu tố quan trọng, hãy cân nhắc sử dụng mô hình nhanh hơn, rẻ hơn cho các tác vụ đơn giản và dành GPT-4o cho các truy vấn phức tạp có lợi từ khả năng của nó.
Trên OrcaRouter, GPT-4o được định giá chính xác theo mức niêm yết của OpenAI: $2.50 cho mỗi 1 triệu token đầu vào và $10.00 cho mỗi 1 triệu token đầu ra. OrcaRouter không thêm bất kỳ khoản phụ phí nào. Hóa đơn được tính dựa trên số lượng token được làm tròn đến token nguyên gần nhất. Token đầu vào bao gồm văn bản, hình ảnh và tệp bạn gửi, mặc dù hình ảnh thường được mã hóa token với tỷ lệ cố định bởi mô hình (ví dụ: mỗi hình ảnh tiêu tốn một số lượng token nhất định). Token đầu ra là văn bản do mô hình tạo ra. Bạn chỉ bị tính phí cho những gì bạn sử dụng; không có phí hàng tháng hay cam kết tối thiểu. Mức giá minh bạch này cho phép bạn lập ngân sách chính xác cho khối lượng công việc AI của mình.
Sự đánh đổi chính là giữa chi phí và khả năng. GPT-4o có giá $2.50 cho đầu vào và $10 cho đầu ra trên 1 triệu token. Các mô hình rẻ hơn như GPT-3.5 Turbo ($0.50 đầu vào, $1.50 đầu ra) hoặc Llama 3.1 8B tiết kiệm hơn cho các tác vụ đơn giản hoặc khối lượng lớn. Tuy nhiên, GPT-4o cung cấp đầu vào đa phương thức và cửa sổ ngữ cảnh lớn hơn. Nếu ứng dụng của bạn yêu cầu hiểu hình ảnh hoặc xử lý tài liệu rất dài, GPT-4o có thể là cần thiết mặc dù chi phí cao hơn. Đối với các tác vụ chỉ văn bản với đầu vào ngắn, một mô hình rẻ hơn có thể tiết kiệm tiền. Trên OrcaRouter, bạn có thể chuyển đổi giữa các mô hình chỉ bằng cách thay đổi ID mô hình, do đó bạn có thể tối ưu chi phí cho từng yêu cầu.
Không. OrcaRouter tính phí GPT-4o theo đúng giá của nhà cung cấp, không có phụ phí. Giá là $2.50 cho mỗi 1M token đầu vào và $10.00 cho mỗi 1M token đầu ra. Không có phí ẩn, chào bán thêm hoặc phụ phí nào khác. OrcaRouter truyền trực tiếp chi phí từ OpenAI. Chính sách này áp dụng cho tất cả các mô hình được liệt kê trên nền tảng. URL cơ sở là https://api.orcarouter.ai/v1 và ID mô hình là "openai/gpt-4o". Bạn có thể kiểm tra giá bất kỳ lúc nào bằng cách xem bảng điều khiển sử dụng của mình. Không có bảng giá theo cấp độ hoặc yêu cầu cam kết—chỉ trả tiền cho số token đã sử dụng.
Để sử dụng GPT-4o thông qua OrcaRouter, gửi các yêu cầu HTTP POST đến URL gốc https://api.orcarouter.ai/v1/chat/completions. Đặt tham số model thành "openai/gpt-4o". Yêu cầu của bạn phải bao gồm một khóa API (cung cấp khóa API OrcaRouter của bạn trong tiêu đề Authorization). Nội dung yêu cầu tuân theo định dạng chuẩn của OpenAI chat completions: một mảng messages với các cặp role/content, các tham số tùy chọn như temperature, max_tokens, top_p, v.v. Đối với đầu vào đa phương thức, bao gồm các phần nội dung có type là "text" hoặc "image_url" (hoặc file). Phản hồi là một đối tượng JSON chứa kết quả hoàn thành của mô hình. Ví dụ lệnh curl: curl https://api.orcarouter.ai/v1/chat/completions -H "Authorization: Bearer YOUR_API_KEY" -H "Content-Type: application/json" -d '{"model":"openai/gpt-4o","messages":[{"role":"user","content":[{"type":"text","text":"What is in this image?"},{"type":"image_url","image_url":{"url":"https://example.com/image.jpg"}}]}]}'
Khi gọi GPT-4o qua OrcaRouter, bạn có thể sử dụng các tham số giống như API của OpenAI. Các tham số thường dùng bao gồm: - temperature (float, 0-2): Kiểm soát tính ngẫu nhiên. Giá trị thấp hơn như 0.2 làm cho đầu ra mang tính xác định hơn. - max_tokens (integer, mặc định 16384): Số lượng token tối đa trong phản hồi. - top_p (float, 0-1): Tham số lấy mẫu nucleus. - frequency_penalty và presence_penalty: Giảm sự lặp lại. - stop (string hoặc array): Chuỗi dừng. - stream (boolean): Bật phản hồi dạng luồng (true/false). - seed (integer): Dùng để lấy mẫu xác định. Bạn cũng có thể sử dụng trường "user" tùy chọn để theo dõi từng người dùng. Mô hình hỗ trợ gọi hàm và sử dụng công cụ, mặc dù không được liệt kê rõ ràng trong dữ liệu. Trên OrcaRouter, tất cả các tham số tiêu chuẩn đều được chấp nhận.
Việc di chuyển rất đơn giản vì OrcaRouter cung cấp endpoint tương thích với OpenAI. Các bước: 1. Lấy khóa API từ OrcaRouter (đăng ký tại trang web của họ). 2. Thay đổi base URL từ https://api.openai.com/v1 thành https://api.orcarouter.ai/v1. 3. Thay đổi model ID từ "gpt-4o" thành "openai/gpt-4o". 4. Sử dụng cùng định dạng request body. Không cần thay đổi code nào khác ngoài endpoint và tên model. 5. Cập nhật header Authorization để sử dụng khóa API OrcaRouter của bạn. Khuyến nghị kiểm tra bằng một request đơn lẻ. OrcaRouter sử dụng cả chế độ streaming và non-streaming. Không có sự khác biệt nào về cách model hoạt động vì đây là cùng một model OpenAI cơ bản. Các prompt và tham số hiện có của bạn sẽ hoạt động giống hệt nhau.
URL cơ sở cho API OrcaRouter là https://api.orcarouter.ai/v1. ID model cụ thể để sử dụng cho GPT-4o là "openai/gpt-4o". Chuỗi chính xác này phải được truyền vào tham số "model" của yêu cầu. Ví dụ, trong một lệnh gọi endpoint hoàn tất hội thoại, bạn thiết lập "model": "openai/gpt-4o". OrcaRouter hỗ trợ model này cho cả hoàn tất luồng và không luồng (streaming và non-streaming). Nếu bạn đang sử dụng SDK hoặc thư viện OpenAI được cấu hình trỏ tới URL cơ sở tùy chỉnh, chỉ cần đặt URL cơ sở thành https://api.orcarouter.ai/v1 và cung cấp khóa API OrcaRouter của bạn. Tiền tố ID model "openai/" phân biệt nó với các model từ nhà cung cấp khác trên OrcaRouter.
GPT-4o là phiên bản kế thừa đa phương thức của GPT-4 Turbo. Cả hai mô hình đều có cửa sổ ngữ cảnh 128k. Tuy nhiên, GPT-4o bổ sung hỗ trợ nhập ảnh và tệp gốc, trong khi GPT-4 Turbo chủ yếu chỉ xử lý văn bản (tầm nhìn chỉ có sẵn trong các phiên bản riêng). GPT-4o cũng có đầu ra tối đa cao hơn là 16.384 token so với mức điển hình 4.096 hoặc 8.192 của GPT-4 Turbo. Giá khác nhau: GPT-4 Turbo có giá $10.00 cho mỗi 1M đầu vào và $30.00 cho mỗi 1M đầu ra, khiến GPT-4o rẻ hơn đáng kể ($2.50/$10.00). Điểm MATH-500 của GPT-4o là 75.9, thường cao hơn các điểm chuẩn được báo cáo của GPT-4 Turbo, mặc dù điểm số chính xác của Turbo không có trong dữ liệu. Trên OrcaRouter, cả hai mô hình đều có sẵn với mức chênh lệch bằng 0.
GPT-3.5 Turbo là mô hình rẻ hơn, nhanh hơn, được tối ưu hóa cho các tác vụ đơn giản. Cửa sổ ngữ cảnh của nó là 16.384 token, nhỏ hơn nhiều so với 128k của GPT-4o. GPT-3.5 không hỗ trợ đầu vào hình ảnh—chỉ hỗ trợ văn bản. Giá của nó là $0,50 cho mỗi 1 triệu token đầu vào và $1,50 cho mỗi 1 triệu token đầu ra, rẻ hơn khoảng 5 lần cho đầu vào và 6,6 lần cho đầu ra so với GPT-4o. Trên chuẩn đánh giá MATH-500, GPT-3.5 Turbo thường đạt điểm thấp hơn nhiều (số liệu chính xác không được cung cấp). GPT-4o phù hợp hơn cho suy luận phức tạp, tài liệu dài và các tác vụ đa phương thức. Sử dụng GPT-3.5 Turbo cho các tương tác đơn giản, khối lượng lớn. Trên OrcaRouter, bạn có thể dễ dàng chuyển đổi giữa chúng bằng cách thay đổi ID mô hình.
Claude 3.5 Sonnet là một mô hình cạnh tranh từ Anthropic. Nó cũng có cửa sổ ngữ cảnh 200k (lớn hơn mức 128k của GPT-4o) và hỗ trợ đầu vào hình ảnh. Giá cho Claude 3.5 Sonnet thường là $3.00 cho mỗi 1M đầu vào và $15.00 cho mỗi 1M đầu ra, khiến GPT-4o rẻ hơn ở đầu vào nhưng đắt hơn ở đầu ra? Thực tế GPT-4o có giá $2.50 đầu vào so với $3.00, nên rẻ hơn; đầu ra $10 so với $15, nên rẻ hơn. Trong các bài kiểm tra, Claude 3.5 Sonnet đạt hiệu suất tương tự về toán học và suy luận nhưng điểm số chính xác có khác biệt. Cả hai mô hình đều mạnh trong các tác vụ đa phương thức. Sự lựa chọn giữa chúng có thể phụ thuộc vào các đặc điểm hiệu suất cụ thể hoặc sở thích về hệ sinh thái. Trên OrcaRouter, cả hai đều có thể truy cập qua cùng một định dạng API với các ID mô hình khác nhau (ví dụ: "anthropic/claude-3.5-sonnet").
Llama 3.1 405B là mô hình trọng số mở của Meta với 405 tỷ tham số. Mô hình này cũng hỗ trợ cửa sổ ngữ cảnh 128k và đầu vào văn bản, nhưng khả năng đa phương thức của nó ít rõ ràng hơn (có thể không hỗ trợ hình ảnh gốc). Llama 3.1 405B có sẵn qua OrcaRouter với mức giá thấp hơn, thường khoảng $1.00 cho mỗi 1M token đầu vào và $1.00 cho mỗi 1M token đầu ra (xấp xỉ, không được cung cấp trong dữ kiện). Điểm chuẩn của nó trên MATH-500 không được đưa ra nhưng có khả năng thấp hơn 75.9 của GPT-4o. GPT-4o là độc quyền và cung cấp khả năng suy luận đa phương thức tốt hơn ngay khi sử dụng, cùng với độ chính xác có khả năng cao hơn trong các tác vụ phức tạp. Llama 3.1 405B là lựa chọn tốt cho người dùng muốn một mô hình mở hoặc cần tự lưu trữ. Trên OrcaRouter, bạn có thể so sánh cả hai mô hình cạnh nhau.
Tương thích OpenAI — giữ nguyên SDK bạn đang dùng
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4o",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_completion_tokensmax_tokensnparallel_tool_callspredictionpresence_penaltyresponse_formatseedservice_tierstopstreamstructured_outputstemperaturetool_choicetoolstop_logprobstop_pweb_search_options| Đầu vào / 1M tokens | $2.50 |
| Đầu ra / 1M tokens | $10.00 |
| Đọc cache / 1M | $1.25 |
| Tiền tệ | USD |
Ước tính theo giá niêm yết
Chỉ là ước tính — số token thực tế phụ thuộc vào bộ tách token của nhà cung cấp.
@misc{orcarouter_gpt_4o,
title = {GPT-4o API},
author = {OpenAI},
year = {2024},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4o}
}OpenAI. (2024). GPT-4o API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4o