Mô hình nhúng văn bản hiệu quả về chi phí từ OpenAI, lý tưởng cho tìm kiếm ngữ nghĩa và phân cụm, được truy cập qua OrcaRouter với mức phụ phí bằng không.
openai/text-embedding-3-small là một mô hình embedding do OpenAI phát hành vào tháng 1 năm 2024. Mô hình này tạo ra các biểu diễn vector của văn bản nhằm nắm bắt ý nghĩa ngữ nghĩa, cho phép so sánh…
Mô hình này hoạt động mạnh mẽ trong các tác vụ yêu cầu nắm bắt ý nghĩa tổng thể thay vì các chi tiết tinh vi. Nó được sử dụng rộng rãi cho tìm kiếm ngữ nghĩa, nơi các truy vấn được nhúng và so khớp với một kho ngữ liệu các embedding văn bản. Mô hình cũng hoạt động tốt trong việc phân cụm—nhóm các văn bản tương tự mà không có nhãn rõ ràng—và trong phân loại khi các embedding được đưa vào một bộ phân loại tuyến tính. Trong các pipeline tạo sinh tăng cường truy xuất (RAG), mô hình mã hóa hiệu quả cả truy vấn và văn bản, cho phép truy xuất nhanh dựa trên độ tương tự. Ngữ cảnh 8.192 token cho phép mô hình xử lý các đoạn văn dài hơn, như tóm tắt nghiên cứu hoặc phản hồi của khách hàng, trong một lần gọi embedding duy nhất.
Nếu trường hợp sử dụng của bạn liên quan đến các văn bản rất ngắn (ví dụ: từ đơn hoặc cụm từ) hoặc bạn ưu tiên tốc độ hơn độ chính xác, bạn có thể khám phá các mô hình nhẹ hơn từ các nhà cung cấp khác có sẵn trên OrcaRouter, chẳng hạn như các mô hình có số chiều thấp hơn hoặc chuyên biệt cho các ngôn ngữ cụ thể. Ngoài ra, nếu nhiệm vụ của bạn rất thô—như chỉ phân biệt giữa một vài danh mục rộng—một mô hình đơn giản hơn có thể đủ. Tuy nhiên, openai/text-embedding-3-small đã là một trong những tùy chọn giá cả phải chăng nhất từ OpenAI. Đối với các ứng dụng nơi chất lượng embedding ảnh hưởng trực tiếp đến hiệu suất hạ nguồn (ví dụ: xếp hạng cho tìm kiếm), chi phí tăng thêm nhỏ thường biện minh cho kết quả tốt hơn so với các lựa chọn thay thế miễn phí.
OpenAI's text-embedding-3-small đã chứng tỏ khả năng đa ngôn ngữ mạnh mẽ, hoạt động tốt trên các chuẩn đánh giá đa ngôn ngữ như các tập con đa ngôn ngữ của MTEB. Mô hình này có thể nhúng văn bản bằng hàng chục ngôn ngữ và tạo ra các vector tương đương cho nội dung tương tự nhau giữa các ngôn ngữ. Điều này làm cho nó hữu ích cho các ứng dụng toàn cầu như đề xuất sản phẩm quốc tế hoặc định tuyến vé hỗ trợ đa ngôn ngữ. Tuy nhiên, đối với các lĩnh vực chuyên biệt (ví dụ: pháp lý, y tế, mã nguồn), một mô hình nhúng được thích ứng với từng lĩnh vực có thể mang lại độ chính xác cao hơn. Nếu dữ liệu của bạn mang tính kỹ thuật cao, bạn nên đánh giá mô hình này so với các lựa chọn thay thế để đảm bảo hiệu suất tối ưu.
Theo các kết quả công bố, openai/text-embedding-3-small đạt điểm trung bình khoảng 62% trên chuẩn MTEB (Massive Text Embedding Benchmark). Điều này phản ánh hiệu suất vững chắc trên nhiều tác vụ khác nhau bao gồm phân loại, gom cụm, phân loặ cặp và xếp hạng lại. Mặc dù nó thua kém phiên bản lớn hơn text-embedding-3-large (đạt khoảng 65%), nhưng chi phí mỗi token của nó chỉ bằng khoảng một phần mười so với phiên bản lớn. Hiệu suất của mô hình đặc biệt mạnh ở các tác vụ gom cụm và tương đồng ngữ nghĩa. Đối với các tác vụ yêu cầu độ chính xác cao trong STS (Tương đồng Ngữ nghĩa Văn bản), mô hình nhỏ vẫn hoạt động cạnh tranh.
Độ trễ cho các yêu cầu embedding phụ thuộc vào độ dài đầu vào và tải đồng thời. Trên OrcaRouter, mô hình được phục vụ qua cơ sở hạ tầng của OpenAI, do đó độ trễ điển hình tương đương với các lệnh gọi API trực tiếp của OpenAI. Đối với một truy vấn đơn có độ dài trung bình (100-200 token), thời gian phản hồi thường dưới 200ms. Thông lượng có thể tăng lên bằng cách gộp nhiều văn bản trong một lệnh gọi API. Mô hình hỗ trợ xử lý theo lô và OrcaRouter truyền các tham số gộp giống như API OpenAI. Đối với khối lượng công việc lớn, chi phí thấp trên mỗi token giúp việc nhúng hàng triệu bản ghi trở nên khả thi mà không vượt quá ngân sách.
Mặc dù có nhiều điểm mạnh, openai/text-embedding-3-small vẫn có những hạn chế. Vector mặc định 512 chiều của nó có thể mất đi một số sắc thái so với biến thể lớn 1.536 chiều, đặc biệt đối với các phân biệt ngữ nghĩa tinh vi. Hiệu suất của mô hình trên các tác vụ yêu cầu kiến thức chuyên sâu về lĩnh vực hoặc xử lý tài liệu rất dài (gần 8.192 token) có thể suy giảm nếu văn bản bị nhiễu hoặc cấu trúc kém. Ngoài ra, vì đây là mô hình đa năng, nó có thể hoạt động kém hơn trên các tác vụ chuyên biệt như tìm kiếm mã nguồn hoặc trích xuất khái niệm y sinh so với các mô hình chuyên dụng. OrcaRouter cung cấp quyền truy cập vào các mô hình khác cho những nhu cầu cụ thể đó.
openai/text-embedding-3-small có giá $0.02 cho mỗi triệu token đầu vào và $0.02 cho mỗi triệu token đầu ra. Vì mô hình chỉ tạo ra embeddings (các token đầu ra là biểu diễn vector, không phải văn bản), nên số lượng token đầu ra tỷ lệ thuận với đầu vào. Trên thực tế, bạn sẽ bị tính phí cho cả token đầu vào và đầu ra với cùng một mức giá. OrcaRouter chuyển tiếp chính xác mức giá của nhà cung cấp mà không có bất kỳ khoản phụ phí nào, do đó tổng chi phí chính xác là $0.02 cho mỗi triệu token đầu vào và $0.02 cho mỗi triệu token đầu ra. Không có phí nền tảng bổ sung hay chi phí ẩn nào khác. Điều này khiến mô hình trở thành một trong những lựa chọn tiết kiệm chi phí nhất để nhúng văn bản ở quy mô lớn.
So với mô hình text-embedding-3-large của OpenAI ($0,13 cho 1 triệu token đầu vào), mô hình nhỏ rẻ hơn 6,5 lần. Đối với nhiều ứng dụng, mức suy giảm hiệu suất chỉ ở mức khiêm tốn, khiến mô hình nhỏ trở thành lựa chọn tốt hơn về giá trị. So với mô hình ada-002 cũ (nay đã ngừng hoạt động), mô hình nhỏ vừa rẻ hơn vừa mạnh mẽ hơn. Trên OrcaRouter, bạn cũng có thể tìm thấy các mô hình nhúng từ bên thứ ba với mức giá thậm chí còn thấp hơn; tuy nhiên, chúng có thể không mang lại chất lượng hoặc khả năng tương thích tương đương với hệ sinh thái của OpenAI. Mô hình không tăng giá từ OrcaRouter đảm bảo bạn chỉ phải trả đúng mức giá trực tiếp, không có bất kỳ khoản phụ phí nào.
OrcaRouter có thể triển khai cơ chế lưu cache để giảm các lời gọi API trùng lặp. Nếu bạn gửi cùng một văn bản đầu vào nhiều lần, nền tảng có thể trả về các embeddings đã được lưu cache mà không phát sinh thêm chi phí token. Tuy nhiên, các chính sách cache không được nêu chi tiết rõ ràng trong các thông tin được cung cấp. Để giảm thiểu chi phí, bạn có thể triển khai lớp cache riêng ở phía máy khách bằng cách sử dụng các vector embedding được trả về. Vì chi phí token vốn đã rất thấp, việc lưu cache chỉ mang lại khoản tiết kiệm không đáng kể trừ khi bạn có các truy vấn cực kỳ lặp đi lặp lại. Liên hệ bộ phận hỗ trợ của OrcaRouter để biết chi tiết về hành vi lưu cache phía máy chủ.
Để sử dụng openai/text-embedding-3-small qua OrcaRouter, hãy đặt URL cơ sở là https://api.orcarouter.ai/v1 và chỉ định ID mô hình là 'openai/text-embedding-3-small'. API hoàn toàn tương thích với endpoint embedding của OpenAI, vì vậy bạn có thể sử dụng thư viện Python của OpenAI hoặc bất kỳ HTTP client nào với cùng định dạng yêu cầu. Ví dụ, trong Python: client = OpenAI(base_url='https://api.orcarouter.ai/v1', api_key='your_key'); response = client.embeddings.create(model='openai/text-embedding-3-small', input='Your text here'). Phản hồi chứa vector embedding và thông tin chi tiết về mức sử dụng.
API hỗ trợ các tham số giống như endpoint embedding của OpenAI. Bắt buộc: 'model' được đặt thành 'openai/text-embedding-3-small' và 'input' (chuỗi hoặc mảng các chuỗi). Tùy chọn: 'dimensions' (số nguyên, từ 128 đến 512, mặc định 512) để giảm kích thước vector đầu ra. Kích thước nhỏ hơn giúp tăng tốc xử lý hạ nguồn và giảm lưu trữ trong khi vẫn giữ lại hầu hết thông tin ngữ nghĩa. Tham số 'user' có thể được sử dụng để giới hạn tốc độ theo từng khách hàng. OrcaRouter cũng chấp nhận các header tiêu chuẩn như Authorization và Content-Type. Đối với các yêu cầu batch, truyền một mảng các chuỗi làm đầu vào; API sẽ trả về một danh sách các embedding theo thứ tự tương ứng.
Nếu bạn hiện đang sử dụng API embedding của OpenAI, việc chuyển sang OrcaRouter rất đơn giản. Thay đổi base URL từ https://api.openai.com/v1 thành https://api.orcarouter.ai/v1, và cập nhật tên model thành 'openai/text-embedding-3-small'. Không cần thay đổi mã nguồn nào khác. Thư viện client hiện tại của bạn (Python, Node.js, curl, v.v.) sẽ hoạt động giống hệt. OrcaRouter hỗ trợ cùng cơ chế xác thực sử dụng khóa API. Sự chuyển đổi này cho phép bạn hưởng lợi từ mức giá không chênh lệch mà không cần điều chỉnh lại pipeline embedding của mình. Đảm bảo khóa của bạn có quyền truy cập vào model trên OrcaRouter.
Sự khác biệt chính là kích thước, chi phí và hiệu suất. text-embedding-3-large xuất ra 1.536 chiều (mặc định) so với 512 chiều của phiên bản nhỏ, và có giá $0,13 cho mỗi 1M token đầu vào—đắt hơn 6,5 lần. Trên chuẩn MTEB, model lớn đạt khoảng 65%, model nhỏ khoảng 62%. Đối với hầu hết các ứng dụng, model nhỏ mang lại tỷ lệ giá trị trên chi phí tốt hơn. Model lớn có thể được ưu tiên khi bạn cần độ chính xác cao nhất có thể cho các tác vụ như tìm kiếm tương tự chi tiết hoặc khi bạn không thể chấp nhận bất kỳ sự sụt giảm nào về độ thu hồi. OrcaRouter cung cấp cả hai model, vì vậy bạn có thể thử nghiệm cả hai trên dữ liệu của riêng mình.
Mô hình embedding trước đây của OpenAI, text-embedding-ada-002, hiện đã không còn được hỗ trợ và không còn khả dụng qua các kênh chính thức. So với ada-002, text-embedding-3-small cung cấp hiệu suất trung bình tốt hơn trên MTEB (62% so với ~61%), hỗ trợ ngữ cảnh lớn hơn (8,192 so với 2,048 token), và có chi phí thấp hơn đáng kể ($0,02 so với $0,10 trên 1M token đầu vào) theo bảng giá hiện tại. Mô hình mới cũng giới thiệu tham số dimensions, cho phép tối ưu hóa chi phí và lưu trữ hơn nữa. Nếu bạn có quy trình làm việc vẫn đang sử dụng ada-002, bạn nên chuyển sang text-embedding-3-small để cải thiện chất lượng và giảm chi phí.
OrcaRouter lưu trữ các mô hình embedding từ nhiều nhà cung cấp, khác nhau về giá, kích thước và chất lượng. Ví dụ, một số mô hình cung cấp các gói miễn phí hoặc chi phí thấp hơn trên mỗi token. Tuy nhiên, các mô hình đó thường có cửa sổ ngữ cảnh nhỏ hơn (ví dụ: 512 token) hoặc điểm chuẩn thấp hơn. openai/text-embedding-3-small cân bằng giữa chi phí, độ dài ngữ cảnh và chất lượng. Nếu dữ liệu của bạn mang tính chuyên ngành cao, một mô hình tùy chỉnh (ví dụ: dành cho mã nguồn hoặc pháp lý) có thể vượt trội hơn. Danh mục của OrcaRouter cho phép bạn so sánh hiệu suất và giá cả. Mô hình nhỏ là lựa chọn mặc định đáng tin cậy cho các tác vụ tiếng Anh đa dụng và đa ngôn ngữ.
Các mô hình embedding nguồn mở (ví dụ: từ Hugging Face) có thể tự triển khai, giúp giảm chi phí ở khối lượng rất lớn. Tuy nhiên, chúng yêu cầu hạ tầng, bảo trì và chuyên môn để đạt được độ trễ và độ tin cậy tương đương với API của OpenAI. openai/text-embedding-3-small, được truy cập qua OrcaRouter, mang lại chi phí hạ tầng bằng không, thời gian hoạt động ổn định và tương thích với hệ sinh thái OpenAI. Đối với khối lượng công việc từ nhỏ đến trung bình, API được quản lý thường kinh tế hơn khi tính đến thời gian kỹ thuật. Đối với triển khai cực kỳ lớn (hàng tỷ embedding), mô hình tự triển khai có thể rẻ hơn, nhưng chất lượng tương đương không được đảm bảo.
Tương thích OpenAI — giữ nguyên SDK bạn đang dùng
https://api.orcarouter.ai/v1dimensionsencoding_format| Đầu vào / 1M tokens | $0.020 |
|---|---|
| Đầu ra / 1M tokens | $0.020 |
| Tiền tệ | USD |
Ước tính theo giá niêm yết
Chỉ là ước tính — số token thực tế phụ thuộc vào bộ tách token của nhà cung cấp.
So sánh chi phí hằng tháng giữa các mô hình trong công cụ tính chi phí LLM
Điều các nhà phát triển đang nói tuần này
GET /api/public/models/openai/text-embedding-3-smallMở @misc{orcarouter_text_embedding_3_small,
title = {openai/text-embedding-3-small API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/text-embedding-3-small}
}openai. (n.d.). openai/text-embedding-3-small API. OrcaRouter. https://www.orcarouter.ai/models/openai/text-embedding-3-small