비용 효율적인 OpenAI의 텍스트 임베딩 모델로, 의미 검색 및 클러스터링에 이상적이며 OrcaRouter를 통해 마크업 없이 액세스할 수 있습니다.
openai/text-embedding-3-small는 OpenAI가 2024년 1월에 출시한 임베딩 모델입니다. 이 모델은 텍스트의 의미를 포착하는 벡터 표현을 생성하여 비교 및 유사도 계산을 가능하게 합니다. 모델은 텍스트 전용이며 최대 8,192개의 토큰까지 입력을 받습니다. 기본 출력 차원은 512이지만 정밀도와 속도 및 저장 공간을 절충하기 위해…
이 모델은 세부적인 세부 사항보다는 전반적인 의미를 포착해야 하는 작업에서 강력한 성능을 보입니다. 의미 검색에 널리 사용되며, 여기서 쿼리는 임베딩되어 문서 임베딩 코퍼스와 매칭됩니다. 또한 클러스터링(명시적 레이블 없이 유사한 텍스트 그룹화)과 임베딩이 선형 분류기에 입력될 때 분류에도 잘 작동합니다. 검색 증강 생성(RAG) 파이프라인에서 쿼리와 문서를 모두 효율적으로 인코딩하여 빠른 유사성 기반 검색을 가능하게 합니다. 8,192 토큰 컨텍스트를 통해 연구 초록이나 고객 피드백 같은 긴 구절을 단일 임베딩 호출로 처리할 수 있습니다.
사용 사례가 매우 짧은 텍스트(예: 단일 단어 또는 구)를 다루거나 정확성보다 속도를 우선시하는 경우, OrcaRouter에서 제공하는 다른 제공업체의 더 가벼운 모델(예: 차원이 낮거나 특정 언어에 특화된 모델)을 고려해볼 수 있습니다. 또한, 작업이 매우 거칠어서 몇 가지 광범위한 범주만 구분하면 되는 경우에는 더 단순한 모델로도 충분할 수 있습니다. 하지만 openai/text-embedding-3-small은 이미 OpenAI에서 가장 저렴한 옵션 중 하나입니다. 임베딩 품질이 다운스트림 성능(예: 검색 순위 지정)에 직접 영향을 미치는 애플리케이션의 경우, 무료 계층 대안과 비교했을 때 약간의 추가 비용이 더 나은 결과를 정당화하는 경우가 많습니다.
OpenAI의 text-embedding-3-small은 강력한 교차 언어 능력을 입증하며, MTEB의 다국어 하위 집합과 같은 다국어 벤치마크에서 좋은 성능을 보여주었습니다. 수십 개 언어의 텍스트를 임베딩하고, 유사한 내용에 대해 언어 간에 비교 가능한 벡터를 생성할 수 있습니다. 이로 인해 국제 제품 추천이나 다국어 지원 티켓 라우팅과 같은 글로벌 애플리케이션에 유용합니다. 그러나 전문 분야(예: 법률, 의료, 코드)의 경우 도메인에 적응된 임베딩 모델이 더 높은 정확도를 제공할 수 있습니다. 데이터가 매우 기술적인 경우, 최적의 성능을 보장하기 위해 이 모델을 대안과 벤치마킹하는 것이 좋습니다.
공개된 결과에 따르면, openai/text-embedding-3-small은 MTEB 벤치마크(Massive Text Embedding Benchmark)에서 평균 약 62%의 점수를 기록합니다. 이는 분류, 클러스터링, 쌍 분류 및 재순위화를 포함한 다양한 작업에서 견고한 성능을 반영합니다. 더 큰 text-embedding-3-large(약 65% 점수)에 비해 뒤처지지만, 토큰당 비용은 대형 변형의 약 10분의 1 수준입니다. 이 모델의 성능은 클러스터링 및 의미 유사성 작업에서 특히 강력합니다. STS(Semantic Textual Similarity)에서 높은 정밀도가 필요한 작업의 경우, 소형 모델도 여전히 경쟁력 있는 성능을 보입니다.
임베딩 요청의 지연 시간은 입력 길이와 동시 부하에 따라 달라집니다. OrcaRouter에서는 OpenAI의 인프라를 통해 모델이 제공되므로, 일반적인 지연 시간은 직접 OpenAI API를 호출하는 것과 비슷합니다. 평균 길이(100-200 토큰)의 단일 쿼리의 경우 응답 시간은 일반적으로 200ms 미만입니다. 하나의 API 호출에서 여러 텍스트를 배치 처리하면 처리량을 높일 수 있습니다. 이 모델은 배치 처리를 지원하며, OrcaRouter는 OpenAI API와 동일한 배치 파라미터를 전달합니다. 대량 워크로드의 경우, 토큰당 저렴한 비용 덕분에 예산을 초과하지 않고 수백만 개의 레코드를 임베딩하는 것이 가능합니다.
비록 강력한 기능을 갖추고 있지만, openai/text-embedding-3-small은 한계가 있습니다. 기본 512차원 벡터는 특히 미세한 의미 구분에서 1,536차원의 큰 변형에 비해 일부 뉘앙스를 잃을 수 있습니다. 이 모델은 깊은 도메인 지식이 필요하거나 매우 긴 문서(약 8,192 토큰)를 처리하는 작업에서 텍스트가 노이즈가 많거나 구조가 잘못된 경우 성능이 저하될 수 있습니다. 또한 범용 모델이기 때문에 코드 검색이나 생물의학 개념 추출과 같은 특수 작업에서는 전용 모델에 비해 성능이 떨어질 수 있습니다. OrcaRouter는 이러한 특수 요구에 맞는 다른 모델에 대한 액세스를 제공합니다.
openai/text-embedding-3-small의 가격은 입력 토큰 100만 개당 $0.02, 출력 토큰 100만 개당 $0.02입니다. 이 모델은 임베딩만 생성하므로(출력 토큰은 텍스트가 아닌 벡터 표현) 출력 토큰 수는 입력에 비례합니다. 실제로 입력 및 출력 토큰 모두 동일한 요율로 청구됩니다. OrcaRouter는 공급자의 정확한 요율을 마크업 없이 그대로 전달하므로 총 비용은 입력 토큰 100만 개당 $0.02, 출력 토큰 100만 개당 $0.02입니다. 추가 플랫폼 수수료나 숨겨진 비용은 없습니다. 따라서 이 모델은 대규모 텍스트 임베딩에 있어 가장 비용 효율적인 옵션 중 하나입니다.
OpenAI의 text-embedding-3-large (입력 토큰 100만 개당 $0.13)와 비교할 때, 소형 모델은 6.5배 저렴합니다. 많은 애플리케이션에서 성능 저하가 미미하여 소형 모델이 더 나은 가치를 제공합니다. 레거시 ada-002 (현재 지원 종료됨)와 비교할 때, 소형 모델은 더 저렴하면서도 더 뛰어난 성능을 제공합니다. OrcaRouter에서는 훨씬 낮은 가격의 타사 임베딩 모델도 찾을 수 있습니다. 하지만 이러한 모델은 OpenAI 생태계와 동일한 품질이나 호환성을 제공하지 않을 수 있습니다. OrcaRouter의 무마진 모델을 사용하면 추가 요금 없이 직접 지불하는 금액만 지불하게 됩니다.
OrcaRouter는 중복된 API 호출을 줄이기 위해 캐싱 메커니즘을 구현할 수 있습니다. 동일한 입력 텍스트를 여러 번 보내면 플랫폼이 추가 토큰 비용 없이 캐시된 임베딩을 반환할 수 있습니다. 그러나 캐싱 정책은 제공된 사실에 명시적으로 상세히 설명되어 있지 않습니다. 비용을 최소화하기 위해 반환된 임베딩 벡터를 사용하여 클라이언트 측에서 자체 캐싱 계층을 구현할 수 있습니다. 토큰 비용이 이미 매우 낮기 때문에 캐싱은 극도로 반복적인 쿼리가 없는 한 절감 효과가 미미합니다. 서버 측 캐싱 동작에 대한 자세한 내용은 OrcaRouter 지원팀에 문의하십시오.
OrcaRouter를 통해 openai/text-embedding-3-small을 사용하려면 기본 URL을 https://api.orcarouter.ai/v1로 설정하고 모델 ID를 'openai/text-embedding-3-small'로 지정하세요. 이 API는 OpenAI의 임베딩 엔드포인트와 완벽하게 호환되므로, OpenAI Python 라이브러리나 모든 HTTP 클라이언트를 동일한 요청 형식으로 사용할 수 있습니다. 예를 들어, Python에서: client = OpenAI(base_url='https://api.orcarouter.ai/v1', api_key='your_key'); response = client.embeddings.create(model='openai/text-embedding-3-small', input='Your text here'). 응답에는 임베딩 벡터와 사용 세부 정보가 포함됩니다.
API는 OpenAI의 임베딩 엔드포인트와 동일한 매개변수를 지원합니다. 필수: 'model'은 'openai/text-embedding-3-small'로 설정, 'input'은 문자열 또는 문자열 배열. 선택: 'dimensions' (정수, 128~512, 기본값 512)로 출력 벡터 크기를 줄일 수 있습니다. 더 작은 차원은 후속 처리 속도를 높이고 저장 공간을 줄이면서 대부분의 의미 정보를 유지합니다. 'user' 매개변수는 고객별 속도 제한에 사용할 수 있습니다. OrcaRouter는 Authorization 및 Content-Type과 같은 표준 헤더도 허용합니다. 배치 요청의 경우 input에 문자열 배열을 전달하면 API가 해당 순서대로 임베딩 목록을 반환합니다.
현재 OpenAI의 임베딩 API를 사용 중이라면 OrcaRouter로의 마이그레이션은 간단합니다. 기본 URL을 https://api.openai.com/v1에서 https://api.orcarouter.ai/v1로 변경하고, 모델 이름을 'openai/text-embedding-3-small'로 업데이트하세요. 다른 코드 변경은 필요하지 않습니다. 기존 클라이언트 라이브러리(Python, Node.js, curl 등)는 동일하게 작동합니다. OrcaRouter는 API 키를 사용하는 동일한 인증 방식을 지원합니다. 이 전환을 통해 임베딩 파이프라인을 재구성하지 않고도 제로 마크업 가격의 혜택을 누릴 수 있습니다. 키가 OrcaRouter에서 모델에 액세스할 수 있는지 확인하세요.
주요 차이점은 크기, 비용 및 성능입니다. text-embedding-3-large는 기본적으로 1,536차원을 출력하는 반면, 소형 버전은 512차원이며, 입력 토큰 100만 개당 $0.13의 비용으로 6.5배 더 비쌉니다. MTEB 벤치마크에서 large 모델은 약 65%, small 모델은 약 62%의 점수를 기록합니다. 대부분의 애플리케이션에서 small 모델이 더 나은 가성비를 제공합니다. large 모델은 세분화된 유사도 검색과 같은 작업에서 최고 수준의 정확도가 필요하거나 재현율 저하를 감수할 수 없는 경우 선호될 수 있습니다. OrcaRouter는 두 모델을 모두 제공하므로, 자체 데이터로 두 모델을 테스트할 수 있습니다.
OpenAI의 이전 임베딩 모델인 text-embedding-ada-002는 이제 더 이상 사용되지 않으며 공식 채널을 통해 사용할 수 없습니다. ada-002와 비교하여 text-embedding-3-small은 MTEB에서 평균 성능이 더 우수하고(62% 대 ~61%), 더 큰 컨텍스트를 지원하며(8,192 대 2,048 토큰), 현재 가격 기준으로 비용이 훨씬 저렴합니다(입력 토큰 100만 개당 $0.02 대 $0.10). 또한 새 모델은 dimensions 매개변수를 도입하여 비용과 스토리지를 더욱 최적화할 수 있습니다. 여전히 ada-002를 사용하는 워크플로우가 있다면, 향상된 품질과 낮은 비용을 위해 text-embedding-3-small로 마이그레이션해야 합니다.
OrcaRouter는 여러 제공업체의 임베딩 모델을 호스팅하며, 가격, 차원, 품질이 다양합니다. 예를 들어, 일부 모델은 무료 티어 또는 낮은 토큰당 비용을 제공합니다. 그러나 이러한 모델은 종종 더 작은 컨텍스트 윈도우(예: 512 토큰)나 낮은 벤치마크 점수를 가집니다. openai/text-embedding-3-small은 비용, 컨텍스트 길이, 품질의 균형을 맞춥니다. 데이터가 매우 도메인 특화된 경우(예: 코드 또는 법률 특화) 맞춤형 모델이 더 나은 성능을 발휘할 수 있습니다. OrcaRouter의 카탈로그를 통해 성능과 가격을 비교할 수 있습니다. small 모델은 일반 목적의 영어 및 다국어 작업에 신뢰할 수 있는 기본값입니다.
오픈소스 임베딩 모델(예: Hugging Face)은 자체 호스팅이 가능하며, 매우 높은 볼륨에서 비용을 절감할 가능성이 있습니다. 하지만 OpenAI의 API와 유사한 지연 시간과 안정성을 달성하려면 인프라, 유지보수, 전문 지식이 필요합니다. OrcaRouter를 통해 액세스되는 openai/text-embedding-3-small은 제로 인프라 오버헤드, 일관된 가동 시간, OpenAI 생태계와의 호환성을 제공합니다. 소규모에서 중간 규모 워크로드의 경우, 엔지니어링 시간을 고려하면 관리형 API가 종종 더 경제적입니다. 매우 대규모 배포(수십억 개의 임베딩)의 경우 자체 호스팅 모델이 더 저렴해질 수 있지만, 품질 동등성은 보장되지 않습니다.
OpenAI 호환 — 쓰던 SDK 그대로
https://api.orcarouter.ai/v1dimensionsencoding_format| 입력 / 1M tokens | $0.020 |
|---|---|
| 출력 / 1M tokens | $0.020 |
| 통화 | USD |
정가 기준 추정치
추정치일 뿐입니다 — 실제 토큰 수는 제공자의 토크나이저에 따라 달라집니다.
이번 주 개발자들의 이야기
@misc{orcarouter_text_embedding_3_small,
title = {openai/text-embedding-3-small API},
author = {openai},
year = {n.d.},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/text-embedding-3-small}
}openai. (n.d.). openai/text-embedding-3-small API. OrcaRouter. https://www.orcarouter.ai/models/openai/text-embedding-3-small