OpenAI GPT-4-0613: 8K ngữ cảnh, 13.1 AA Coding, mô hình chỉ văn bản với giá $30/$60 cho mỗi 1M token
OpenAI GPT-4-0613 là một checkpoint cụ thể của mô hình ngôn ngữ lớn GPT-4 do OpenAI phát hành vào tháng 6 năm 2023. Mô hình này chỉ hoạt động trên đầu vào văn bản và tạo ra đầu ra văn bản. Mô hình hỗ…
GPT-4-0613 vượt trội trong các tác vụ yêu cầu suy luận sâu, tạo ngôn ngữ chính xác và tuân thủ các hướng dẫn phức tạp. Các trường hợp sử dụng phổ biến bao gồm tạo và xem xét mã trong các ngôn ngữ như Python, JavaScript và C++, cũng như gỡ lỗi các cơ sở mã hiện có. Mô hình này có thể phân tích và tóm tắt các kho văn bản lớn, tạo báo cáo có cấu trúc và soạn thảo các tài liệu kỹ thuật hoặc pháp lý chi tiết. Mô hình cũng hiệu quả trong việc chia nhỏ các vấn đề nhiều bước thành các bước tuần tự rõ ràng, giúp ích cho việc lập kế hoạch và giải quyết vấn đề. Mặc dù chủ yếu hoạt động bằng tiếng Anh, nhưng nó có thể xử lý nhiều ngôn ngữ khác với độ tin cậy khác nhau. Đối với các tác vụ không yêu cầu mức độ tinh vi này, các mô hình nhỏ hơn hoặc rẻ hơn có thể là giải pháp tiết kiệm chi phí hơn.
GPT-4-0613 là mô hình cao cấp với chi phí mỗi token cao hơn. Nó không lý tưởng cho các tác vụ khối lượng lớn, độ phức tạp thấp như phân loại văn bản đơn giản, tương tác trò chuyện cơ bản, hoặc dịch thuật trực tiếp. Đối với các khối lượng công việc như vậy, các mô hình như GPT-3.5 Turbo của OpenAI hoặc các lựa chọn thay thế nhẹ hơn khác có thể mang lại hiệu suất đầy đủ với chi phí chỉ bằng một phần nhỏ. Ngoài ra, nếu ứng dụng của bạn không yêu cầu toàn bộ cửa sổ ngữ cảnh 8192 token hoặc độ dài đầu ra tối đa hiếm khi cần thiết, một mô hình rẻ hơn với ngữ cảnh nhỏ hơn có thể phù hợp hơn. Luôn đánh giá sự đánh đổi giữa chất lượng đầu ra và chi phí cho trường hợp sử dụng cụ thể của bạn để xác định liệu GPT-4-0613 có hợp lý hay không.
GPT-4-0613 chủ yếu được huấn luyện trên tiếng Anh nhưng đã thể hiện khả năng ở nhiều ngôn ngữ khác, bao gồm tiếng Pháp, tiếng Tây Ban Nha, tiếng Đức, tiếng Trung và tiếng Ả Rập. Hiệu suất của nó ở các ngôn ngữ không phải tiếng Anh nhìn chung mạnh mẽ đối với các tác vụ có cấu trúc như dịch thuật, tóm tắt và trả lời câu hỏi, nhưng có thể thể hiện độ chính xác thấp hơn và cách diễn đạt kém tự nhiên hơn so với tiếng Anh. Thế mạnh của mô hình trong suy luận và tuân theo hướng dẫn mở rộng sang các bối cảnh đa ngôn ngữ, nhưng người dùng nên kiểm tra các tình huống cụ thể không phải tiếng Anh để xác nhận tính phù hợp. Đối với các ứng dụng yêu cầu độ chính xác cao bằng ngôn ngữ khác ngoài tiếng Anh, hãy cân nhắc bổ sung với các mô hình ngôn ngữ cụ thể hoặc xác thực bổ sung.
GPT-4-0613 tôn trọng các thông báo hệ thống và hướng dẫn người dùng, khiến nó phù hợp cho các ứng dụng yêu cầu tuân thủ nghiêm ngặt về định dạng, giọng điệu hoặc cấu trúc. Nó có thể tạo ra đầu ra ở định dạng JSON, markdown hoặc các định dạng khác được chỉ định, và có thể theo dõi các hướng dẫn nhiều lượt với ngữ cảnh được duy trì. Mô hình này đặc biệt đáng tin cậy cho các tác vụ yêu cầu suy luận từng bước hoặc gợi ý chuỗi suy nghĩ (chain-of-thought). Tuy nhiên, giống như tất cả các mô hình lớn, nó đôi khi có thể hiểu sai các hướng dẫn không rõ ràng hoặc tạo ra đầu ra lệch khỏi định dạng mong muốn. Khuyến nghị nên cung cấp các hướng dẫn rõ ràng, cụ thể và nếu có thể, hãy bao gồm các ví dụ để định hướng hành vi của mô hình.
Điểm chuẩn AA Coding đạt 13,1 cho GPT-4-0613 cho thấy hiệu suất của nó trong một bài đánh giá dành riêng cho mã nguồn. Mặc dù phương pháp luận chính xác của chuẩn này không được nêu chi tiết trong các dữ kiện đã cung cấp, nhưng điểm số cao hơn thường phản ánh độ chính xác và độ tin cậy tốt hơn trong việc tạo mã, giải quyết các vấn đề lập trình và hiểu cấu trúc mã. Điểm số này định vị GPT-4-0613 như một lựa chọn mạnh mẽ cho các tác vụ mã nguồn như sửa lỗi, triển khai thuật toán và giải thích mã. Cần lưu ý rằng điểm chuẩn chỉ mang tính chất tham khảo và có thể không phản ánh đầy đủ hiệu suất thực tế trên các tác vụ mã nguồn cụ thể. Người dùng nên đánh giá mô hình trên tập dữ liệu của riêng mình để có kết quả tốt nhất.
Độ trễ của GPT-4-0613 không được chỉ định trong các dữ kiện được cung cấp, nhưng với tư cách là một mô hình có dung lượng cao, nó thường có thời gian phản hồi cao hơn so với các mô hình nhỏ hơn như GPT-3.5 Turbo hoặc GPT-4o mini. Tốc độ suy luận phụ thuộc vào các yếu tố như độ dài của đầu vào và đầu ra, độ phức tạp của yêu cầu và cơ sở hạ tầng bên dưới. Thông qua OrcaRouter, độ trễ cũng có thể bị ảnh hưởng bởi điều kiện mạng và khả năng phục vụ của nhà cung cấp. Đối với các ứng dụng thời gian thực mà độ trễ thấp là quan trọng, hãy cân nhắc kiểm tra mô hình dưới tải dự kiến của bạn và có thể sử dụng một mô hình nhanh hơn, rẻ hơn cho các phần ít yêu cầu hơn trong quy trình làm việc của bạn.
Các điểm mạnh chính của GPT-4-0613 nằm ở khả năng suy luận logic, khả năng thực hiện các hướng dẫn phức tạp nhiều bước và độ chính xác cao trong các tác vụ như sinh mã và phân tích dữ liệu. Mô hình này tạo ra các đầu ra có cấu trúc tốt, mạch lạc ngay cả với các lời nhắc dài, phù hợp cho việc soạn thảo tài liệu hoặc báo cáo toàn diện. Mô hình thể hiện tính nhất quán mạnh mẽ qua nhiều lượt tương tác, có lợi cho các tác nhân hội thoại cần duy trì ngữ cảnh. Điểm chuẩn 13.1 trên AA Coding nhấn mạnh độ tin cậy của nó đối với các tác vụ liên quan đến lập trình. Những phẩm chất này khiến nó trở thành lựa chọn ưu tiên cho các ứng dụng mà độ chính xác và chiều sâu là tối quan trọng, ngay cả khi chi phí cao hơn.
GPT-4-0613 có một số hạn chế. Nó chỉ hoạt động với văn bản và không thể xử lý hình ảnh, âm thanh hoặc video. Cửa sổ ngữ cảnh của nó bị giới hạn ở 8192 token, có thể không đủ cho các tài liệu rất dài hoặc các cuộc hội thoại nhiều lượt với lịch sử phong phú. Mô hình đôi khi có thể tạo ra thông tin nghe có vẻ hợp lý nhưng không chính xác (ảo giác), đặc biệt là về các chủ đề nằm ngoài dữ liệu huấn luyện của nó. Mức giá của nó tương đối cao so với các lựa chọn thay thế, khiến nó kém kinh tế hơn cho các ứng dụng có khối lượng lớn. Ngoài ra, là một bản chụp từ tháng 6 năm 2023, nó có thể không biết về các sự kiện hoặc kiến thức sau ngày đó. Người dùng nên xác minh các đầu ra quan trọng và cân nhắc sử dụng phương pháp tạo tăng cường truy xuất (RAG) để neo câu trả lời vào thông tin cập nhật.
GPT-4-0613 được định giá theo mức giá trực tiếp của nhà cung cấp, hoàn toàn không có phụ phí qua OrcaRouter. Chi phí là $30.00 cho mỗi 1 triệu token đầu vào và $60.00 cho mỗi 1 triệu token đầu ra. Token đầu vào bao gồm tất cả văn bản được cung cấp trong yêu cầu của người dùng, bao gồm tin nhắn hệ thống, lịch sử hội thoại và truy vấn hiện tại của người dùng. Token đầu ra là văn bản do mô hình tạo ra để phản hồi. Cả token đầu vào và đầu ra đều được tính vào tổng mức sử dụng và được thanh toán tương ứng. Không có phí nền tảng bổ sung nào ngoài mức phí trên mỗi token. Người dùng được thanh toán dựa trên số lượng token thực tế được xử lý cho mỗi lần gọi API.
Bởi vì các token đầu ra có giá cao gấp đôi token đầu vào ($60 so với $30 cho mỗi 1 triệu token), các ứng dụng tạo ra phản hồi dài có thể trở nên đắt hơn đáng kể so với các ứng dụng có đầu ra ngắn. Ví dụ, một yêu cầu với 10.000 token đầu vào và 2.000 token đầu ra sẽ có chi phí $0,30 cho đầu vào và $0,12 cho đầu ra, tổng cộng là $0,42. Nếu đầu ra là 8.000 token, chi phí sẽ tăng lên $0,30 + $0,48 = $0,78. Để quản lý chi phí, hãy cân nhắc giới hạn tham số max_tokens ở độ dài tối thiểu cần thiết cho trường hợp sử dụng của bạn. Ngoài ra, các lời nhắc hệ thống ngắn hơn và lịch sử hội thoại được cắt gọt sẽ giảm số lượng token đầu vào.
Không có thông tin về bộ nhớ đệm token hay chiết khấu theo khối lượng được cung cấp trong các dữ liệu có sẵn cho GPT-4-0613 qua OrcaRouter. Điều này có nghĩa là mỗi cuộc gọi được tính phí dựa trên số token thực tế được xử lý mà không có bất kỳ cơ chế lưu đệm định trước nào có thể giảm chi phí cho các lời nhắc lặp lại. Người dùng nên liên hệ trực tiếp với OrcaRouter để hỏi về các tính năng lưu đệm tiềm năng hoặc thỏa thuận giá doanh nghiệp. Cũng có thể OrcaRouter cung cấp các tùy chọn tối ưu hóa chi phí không được ghi lại ở đây. Hiện tại, hãy hoạt động với giả định rằng tất cả token đều được tính phí theo tỷ lệ trên mỗi token đã niêm yết mà không có bất kỳ chiết khấu đặc biệt nào.
Khi sử dụng GPT-4-0613, sự đánh đổi chính nằm giữa chất lượng đầu ra và chi phí. Đối với các tác vụ yêu cầu độ chính xác và suy luận cao, mức giá cao thường được chứng minh là hợp lý. Tuy nhiên, đối với xử lý đơn giản hoặc khối lượng lớn, các lựa chọn thay thế rẻ hơn như GPT-3.5 Turbo hoặc GPT-4o mini có thể giảm chi phí tới 90%. Cũng cần xem xét tỷ lệ đầu vào-đầu ra: nếu quy trình làm việc của bạn yêu cầu đầu vào rất dài (ví dụ: toàn bộ tài liệu) nhưng đầu ra ngắn, thì chi phí đầu vào sẽ chiếm ưu thế. Ngược lại, đầu ra dài sẽ làm tăng chi phí đầu ra nhanh chóng. Hãy đánh giá xem liệu các điểm mạnh cụ thể của mô hình (như độ chính xác trong lập trình) có cần thiết cho tác vụ của bạn hay không, và chạy thử nghiệm trên một tập con dữ liệu trước khi cam kết sử dụng ở quy mô lớn.
Để gọi GPT-4-0613 thông qua OrcaRouter, hãy sử dụng endpoint API tương thích với OpenAI tại base_url https://api.orcarouter.ai/v1. Đặt tham số model thành "openai/gpt-4-0613" trong yêu cầu của bạn. Bạn sẽ cần một khóa API từ OrcaRouter để xác thực. Định dạng yêu cầu tuân theo tài liệu chat completions của OpenAI, hỗ trợ các tham số như messages (mảng các tin nhắn hệ thống và người dùng), temperature (0 đến 2), top_p, max_tokens (tối đa 8192), n (số lượng phiên hoàn thành), stop (chuỗi dừng tạo) và stream (boolean để phát trực tiếp). Ví dụ sử dụng thư viện openai của Python: import openai; openai.api_base = "https://api.orcarouter.ai/v1"; openai.api_key = "your_orcarouter_key"; response = openai.ChatCompletion.create(model="openai/gpt-4-0613", messages=[{"role":"user","content":"Xin chào"}])
GPT-4-0613 hỗ trợ các tham số hoàn tất chat chuẩn của OpenAI. Các tham số chính bao gồm temperature (mặc định 1) kiểm soát tính ngẫu nhiên—giá trị thấp hơn làm đầu ra xác định hơn; top_p (mặc định 1) dùng cho lấy mẫu hạt nhân; max_tokens (mặc định do endpoint đặt, tối đa 8192) để giới hạn độ dài đầu ra; n (số lượng hoàn tất sinh ra mỗi yêu cầu); và stop (chuỗi dừng sinh). Bạn cũng có thể dùng presence_penalty và frequency_penalty để khuyến khích hoặc không khuyến khích lặp lại chủ đề. Hỗ trợ phát trực tuyến bằng cách đặt stream=True, trả về các token dần dần. Tất cả tham số hoạt động giống hệt API của OpenAI, cho phép di chuyển liền mạch. Để có kết quả tốt nhất, hãy đặt max_tokens không quá mức cần thiết để kiểm soát chi phí và dùng temperature từ 0 đến 0.5 cho các tác vụ thực tế.
Việc chuyển từ API trực tiếp của OpenAI sang OrcaRouter chỉ yêu cầu hai thay đổi trong mã của bạn: cập nhật base_url thành https://api.orcarouter.ai/v1 và thay đổi model ID thành "openai/gpt-4-0613". Logic xác thực hiện tại của bạn cần được cập nhật để sử dụng khóa API OrcaRouter thay vì khóa OpenAI. Tất cả các tham số quen thuộc (messages, temperature, max_tokens, v.v.) vẫn giữ nguyên. Ví dụ, khi sử dụng thư viện Python openai, hãy đặt openai.api_base = "https://api.orcarouter.ai/v1" và openai.api_key = "your_orcarouter_key". Sau đó gọi openai.ChatCompletion.create(model="openai/gpt-4-0613", ...). API của OrcaRouter được thiết kế như một giải pháp thay thế trực tiếp, do đó không cần sửa đổi mã nào thêm. Hãy kiểm tra với một yêu cầu nhỏ để xác nhận kết nối và thanh toán.
Giới hạn tốc độ cho GPT-4-0613 qua OrcaRouter không được chỉ định trong các dữ kiện có sẵn. Xác thực yêu cầu một khóa API do OrcaRouter cung cấp. Khóa này nên được đưa vào tiêu đề yêu cầu (ví dụ: Authorization: Bearer <key>). Giới hạn tốc độ chính xác có thể phụ thuộc vào gói OrcaRouter hoặc cấp tài khoản của bạn. Đối với việc sử dụng sản xuất, hãy liên hệ OrcaRouter để biết chi tiết về số yêu cầu tối đa mỗi phút (RPM) và token tối đa mỗi phút (TPM). Trong trường hợp không có giới hạn cụ thể, nên triển khai cơ chế backoff theo cấp số nhân khi gặp lỗi giới hạn tốc độ. Cũng lưu ý rằng khóa API của bạn cần được giữ an toàn và không để lộ trong mã phía client.
GPT-4-0613 là một bản chụp nhanh sau hơn so với GPT-4-0314, được phát hành vào tháng 6 năm 2023 so với tháng 3 năm 2023. OpenAI đã tuyên bố rằng bản cập nhật tháng 6 cải thiện độ tin cậy, giảm khả năng tạo ra nội dung bị cấm và cung cấp khả năng tuân thủ hướng dẫn tốt hơn. Cả hai mô hình đều có cùng cửa sổ ngữ cảnh (8192 token) và cấu trúc giá. Điểm chuẩn 13.1 trên AA Coding là riêng cho GPT-4-0613, trong khi GPT-4-0314 có thể có các con số hiệu suất hơi khác. Trong thực tế, nhiều người dùng báo cáo rằng GPT-4-0613 nhất quán hơn và ít có xu hướng né tránh hoặc từ chối các yêu cầu vô hại. Nếu bạn hiện đang sử dụng GPT-4-0314, việc di chuyển sang GPT-4-0613 rất đơn giản và có khả năng mang lại lợi ích.
GPT-4o là mô hình đa phương thức của OpenAI có thể xử lý văn bản, hình ảnh và âm thanh, đồng thời nhanh hơn và rẻ hơn so với GPT-4-0613. Mức giá của GPT-4o là $5 cho mỗi 1M token đầu vào và $15 cho mỗi 1M token đầu ra, giúp nó tiết kiệm chi phí hơn đáng kể. GPT-4-0613, chỉ hỗ trợ văn bản, không thể xử lý các đầu vào phi văn bản. Tuy nhiên, GPT-4-0613 có thể mang lại khả năng suy luận có chủ đích hơn một chút đối với các tác vụ thuần văn bản phức tạp, vì nó là cùng một mô hình nền tảng với GPT-4 nhưng không có tích hợp đa phương thức. Đối với các ứng dụng yêu cầu hiểu hình ảnh hoặc cần độ trễ thấp nhất, GPT-4o thường là lựa chọn tốt hơn. Đối với các tác vụ thuần văn bản nơi độ chính xác tối đa là quan trọng nhất và chi phí ít quan trọng hơn, GPT-4-0613 vẫn là một lựa chọn khả thi.
GPT-3.5 Turbo là một lựa chọn thay thế rẻ hơn và nhanh hơn đáng kể so với GPT-4-0613, có giá khoảng $3 cho mỗi 1M token đầu vào và $6 cho mỗi 1M token đầu ra. Mô hình này được tối ưu hóa cho hội thoại và các hướng dẫn đơn giản, nhưng thiếu chiều sâu suy luận, độ chính xác trong lập trình và khả năng làm theo hướng dẫn của GPT-4-0613. Chuẩn đánh giá AA Coding và các tác vụ suy luận phức tạp cho thấy khoảng cách hiệu suất rõ ràng, nghiêng về phía GPT-4-0613. Đối với các ứng dụng khối lượng lớn với yêu cầu đơn giản, GPT-3.5 Turbo tiết kiệm chi phí hơn. Đối với việc tạo mã quan trọng, phân tích đa bước, hoặc các tác vụ ngôn ngữ tinh tế, GPT-4-0613 mang lại cải thiện chất lượng đáng kể, có thể biện minh cho chi phí cao hơn của nó. Hãy cân nhắc sử dụng GPT-3.5 Turbo cho các tác vụ con đơn giản hoặc lặp đi lặp lại trong một quy trình làm việc lớn hơn để cân bằng giữa chi phí và chất lượng.
Tương thích OpenAI — giữ nguyên SDK bạn đang dùng
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4-0613",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_tokenspresence_penaltyseedstopstreamtemperaturetool_choicetoolstop_logprobstop_p| Đầu vào / 1M tokens | $30.00 |
| Đầu ra / 1M tokens | $60.00 |
| Tiền tệ | USD |
Ước tính theo giá niêm yết
Chỉ là ước tính — số token thực tế phụ thuộc vào bộ tách token của nhà cung cấp.
GET /api/public/models/openai/gpt-4-0613Mở @misc{orcarouter_gpt_4_0613,
title = {openai/gpt-4-0613 API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4-0613}
}openai. (n.d.). openai/gpt-4-0613 API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4-0613