GPT-4o ("o"는 "omni"를 의미)는 OpenAI의 최신 AI 모델로, 텍스트와 이미지 입력을 지원하며 텍스트 출력을 제공합니다. [GPT-4 Turbo](/models/openai/gpt-4-turbo)의 지능 수준을 유지하면서 두 배 더...
GPT-4o는 OpenAI가 개발한 멀티모달 대규모 언어 모델입니다. 텍스트, 이미지, 파일 입력을 받아 텍스트를 출력합니다. 이 모델은 긴 콘텐츠(최대 128,000토큰)를 처리해야 하고 수학 문제 해결을 포함한 강력한 추론 능력이 필요한 사용자를 위해 설계되었습니다. 문서 분석, 시각적 질문 응답, 코드 리뷰 등 텍스트와 이미지를 결합한 애플리케이션을…
GPT-4o는 다중 모드 추론, 긴 컨텍스트 처리, 수학 문제 해결에 탁월합니다. 128k 토큰 컨텍스트를 통해 대량의 정보를 유지 및 참조할 수 있어 문서 분석, 전체 프로젝트에 걸친 코드 생성, 복잡한 다중 턴 대화와 같은 작업에 유용합니다. 이 모델은 MATH-500 벤치마크에서 75.9점을 기록하여 수학 문제 해결에 강력한 능력을 보여줍니다. 또한 이미지 및 파일 입력을 수용할 수 있어 다이어그램, 차트, 사진과 같은 시각적 콘텐츠를 텍스트와 결합하여 추론할 수 있습니다. OrcaRouter에서 이러한 강점을 OpenAI의 공시 가격에 추가 요금 없이 활용할 수 있습니다.
GPT-4o는 텍스트와 시각적 이해가 모두 필요한 작업에 매우 효과적입니다. 예를 들어, 교과서의 다이어그램에 대한 질문에 답변하거나, 스캔된 인보이스에서 데이터를 추출하거나, 와이어프레임 이미지를 기반으로 코드를 생성하거나, 그림이 포함된 긴 연구 논문을 요약하는 작업이 있습니다. 큰 컨텍스트 크기 덕분에 전체 코드베이스나 긴 대화 기록 분석에도 적합합니다. 수학적 추론도 또 다른 강점으로, MATH-500에서 75.9점을 기록한 것이 이를 입증합니다. OrcaRouter에서는 이러한 사용 사례를 간단히 구현할 수 있습니다. 적절한 콘텐츠 유형과 함께 표준 OpenAI 호환 요청을 보내면 모델이 텍스트 응답을 반환합니다.
만약 작업에 멀티모달 입력이나 큰 컨텍스트가 필요하지 않다면, 더 저렴한 모델이 비용 효율적일 수 있습니다. 예를 들어, 작은 컨텍스트에 적합한 간단한 텍스트 분류, 요약 또는 번역 작업의 경우 GPT-3.5 Turbo(입력 100만 토큰당 $0.50, 출력 100만 토큰당 $1.50)와 같은 모델이 훨씬 저렴합니다. GPT-4o의 입력 비용은 100만 토큰당 $2.50로, GPT-3.5 Turbo보다 5배 비쌉니다. 멀티모달 추론이 필요 없는 대량의 텍스트 전용 데이터를 처리하는 경우, 더 작은 모델이 비용을 절감할 수 있습니다. OrcaRouter는 다양한 모델을 제공하므로 최적의 가격 대비 성능 균형을 선택할 수 있습니다.
GPT-4o는 이미지와 파일을 입력으로 받을 수 있도록 설계되어, 시각적 질문 응답, 이미지 캡셔닝, 문서 이해와 같은 작업을 수행할 수 있습니다. 제공된 사실에는 특정 멀티모달 벤치마크 점수가 포함되어 있지 않지만, 모델의 아키텍처는 텍스트와 이미지에 대한 공동 추론을 지원합니다. 예를 들어, 이미지에서 객체를 세거나 차트를 해석할 수 있습니다. 모델은 텍스트만 출력하며 이미지는 출력하지 않습니다. OrcaRouter에서는 OpenAI의 API와 동일한 매개변수를 사용하여 멀티모달 요청이 전송됩니다. messages 배열에 image_url 또는 파일 콘텐츠 부분을 포함시키면 됩니다. 모델은 시각 데이터를 처리하고 결합된 입력을 바탕으로 텍스트 응답을 반환합니다.
GPT-4o는 MATH-500 벤치마크에서 75.9점을 기록했습니다. MATH-500은 MATH 데이터셋의 하위 집합으로, 대수학, 기하학, 미적분학 등 다양한 주제에 걸친 500개의 까다로운 수학 문제로 구성되어 있습니다. 75.9점은 모델이 이러한 문제의 약 76%를 정확하게 해결함을 의미합니다. 이는 강력한 수학적 추론 능력을 나타내지만 완벽하지는 않습니다. 이에 비해 많은 소규모 모델은 유사한 벤치마크에서 50점 미만을 기록합니다. 이 점수는 모델의 다단계 추론 및 수학 표기법 처리 능력을 반영합니다. OrcaRouter에서 GPT-4o를 튜터링, 시험 준비, 계산 검증과 같은 수학 관련 작업에 사용할 수 있습니다.
모든 대형 언어 모델과 마찬가지로 GPT-4o에도 한계가 있습니다. 제한된 학습 데이터가 있거나 매우 최신 지식이 필요한 주제(사실에는 학습 차단 날짜가 제공되지 않았지만, OpenAI 모델이므로 지식 차단이 있습니다)에 대해 부정확하거나 환각적인 답변을 생성할 수 있습니다. 프롬프트 표현 방식에 민감할 수 있으며, 모호한 지시를 처리하는 데 어려움을 겪을 수 있습니다. 강력한 MATH-500 점수에도 불구하고 복잡한 수학적 증명에서 오류가 없지는 않습니다. 이 모델은 이미지를 처리하지만 이미지를 생성하지는 않습니다. 또한, 큰 컨텍스트 윈도우(128k 토큰)는 토큰 사용량을 증가시켜 신중하게 관리하지 않으면 비용이 상승할 수 있습니다. OrcaRouter에서는 temperature 및 top_p와 같은 매개변수를 조정하여 일부 문제를 완화할 수 있습니다.
GPT-4o의 정확한 지연 시간 수치는 제공된 정보에 포함되어 있지 않습니다. 일반적으로 GPT-4o는 대형 모델이므로 GPT-3.5 Turbo 또는 Llama 3.1 8B와 같은 소형 모델에 비해 지연 시간이 더 깁니다. 하지만 원래의 GPT-4보다는 추론 속도가 최적화되었을 가능성이 높습니다. OrcaRouter를 통해 요청을 추가 처리 없이 라우팅하므로 OpenAI에서 직접 얻는 것과 유사한 응답 시간을 기대할 수 있습니다. 속도가 중요한 실시간 애플리케이션의 경우, 간단한 작업에는 더 빠르고 저렴한 모델을 사용하고, GPT-4o의 성능이 필요한 복잡한 쿼리를 위해 남겨두는 것을 고려하십시오.
OrcaRouter에서 GPT-4o의 가격은 OpenAI가 제시한 요금과 정확히 동일합니다: 입력 토큰 100만 개당 $2.50, 출력 토큰 100만 개당 $10.00입니다. OrcaRouter는 어떠한 마크업도 추가하지 않습니다. 청구는 가장 가까운 정수 토큰으로 반올림된 토큰 수를 기준으로 합니다. 입력 토큰에는 사용자가 보낸 텍스트, 이미지 및 파일이 포함되지만, 이미지는 일반적으로 모델에 의해 고정된 비율로 토큰화됩니다(예: 각 이미지는 특정 수의 토큰을 소비합니다). 출력 토큰은 모델이 생성한 텍스트입니다. 사용한 만큼만 요금이 부과되며, 월별 요금이나 최소 사용량 약정은 없습니다. 이 투명한 가격 책정 방식으로 AI 워크로드에 대한 예산을 정확하게 수립할 수 있습니다.
주요 절충점은 비용과 성능 간의 균형입니다. GPT-4o는 100만 토큰당 입력 $2.50, 출력 $10입니다. GPT-3.5 Turbo(입력 $0.50, 출력 $1.50)나 Llama 3.1 8B 같은 저렴한 모델은 단순하거나 대량 작업에 더 경제적입니다. 하지만 GPT-4o는 멀티모달 입력과 더 큰 컨텍스트 창을 제공합니다. 애플리케이션이 이미지 이해나 매우 긴 문서 처리를 필요로 한다면, 더 높은 비용에도 불구하고 GPT-4o가 필요할 수 있습니다. 짧은 입력의 텍스트 전용 작업에서는 더 저렴한 모델이 비용을 절약할 수 있습니다. OrcaRouter에서는 모델 ID만 간단히 변경하여 모델을 전환할 수 있으므로 각 요청에 맞게 비용을 최적화할 수 있습니다.
아니요. OrcaRouter는 GPT-4o를 제공업체의 정확한 요율로, 마크업 없이 청구합니다. 가격은 입력 토큰 100만 개당 $2.50, 출력 토큰 100만 개당 $10.00입니다. 숨은 수수료, 업셀 또는 추가 요금은 없습니다. OrcaRouter는 비용을 OpenAI로부터 직접 전달합니다. 이 정책은 플랫폼에 나열된 모든 모델에 적용됩니다. 기본 URL은 https://api.orcarouter.ai/v1이며 모델 ID는 "openai/gpt-4o"입니다. 사용 대시보드를 확인하여 언제든지 가격을 확인할 수 있습니다. 계층별 가격 책정이나 약정이 필요하지 않으며, 소비된 토큰에 대해서만 지불하면 됩니다.
OrcaRouter를 통해 GPT-4o를 사용하려면 기본 URL https://api.orcarouter.ai/v1/chat/completions로 HTTP POST 요청을 보내십시오. model 파라미터를 "openai/gpt-4o"로 설정하십시오. 요청에는 API 키가 포함되어야 합니다(Authorization 헤더에 OrcaRouter API 키를 제공하십시오). 요청 본문은 표준 OpenAI 채팅 완료 형식을 따릅니다: role/content 쌍을 포함하는 messages 배열과 temperature, max_tokens, top_p 등과 같은 선택적 파라미터입니다. 멀티모달 입력의 경우 "text" 또는 "image_url"(또는 파일) 유형을 가진 content 부분을 포함하십시오. 응답은 모델의 완료를 포함하는 JSON 객체입니다. 예시 curl 명령어: curl https://api.orcarouter.ai/v1/chat/completions -H "Authorization: Bearer YOUR_API_KEY" -H "Content-Type: application/json" -d '{"model":"openai/gpt-4o","messages":[{"role":"user","content":[{"type":"text","text":"What is in this image?"},{"type":"image_url","image_url":{"url":"https://example.com/image.jpg"}}]}]}'
OrcaRouter를 통해 GPT-4o를 호출할 때 OpenAI API와 동일한 매개변수를 사용할 수 있습니다. 자주 사용되는 매개변수는 다음과 같습니다: - temperature (float, 0-2): 무작위성을 제어합니다. 0.2와 같은 낮은 값은 출력을 더 결정론적으로 만듭니다. - max_tokens (integer, 기본값 16384): 응답의 최대 토큰 수입니다. - top_p (float, 0-1): 핵 샘플링(Nucleus sampling) 매개변수입니다. - frequency_penalty 및 presence_penalty: 반복을 줄입니다. - stop (string 또는 array): 중단 시퀀스입니다. - stream (boolean): 스트리밍 응답을 활성화합니다 (true/false). - seed (integer): 결정론적 샘플링을 위한 시드 값입니다. 또한 개별 사용자 추적을 위해 선택적 "user" 필드를 사용할 수 있습니다. 이 모델은 함수 호출(function calling) 및 도구 사용(tool use)을 지원하지만, 사실 정보에는 명시적으로 나열되지 않았습니다. OrcaRouter에서는 모든 표준 매개변수가 허용됩니다.
마이그레이션은 OrcaRouter가 OpenAI 호환 엔드포인트를 제공하기 때문에 간단합니다. 단계: 1. OrcaRouter에서 API 키를 받습니다(웹사이트에 가입). 2. 기본 URL을 https://api.openai.com/v1에서 https://api.orcarouter.ai/v1로 변경합니다. 3. 모델 ID를 "gpt-4o"에서 "openai/gpt-4o"로 변경합니다. 4. 동일한 요청 본문 형식을 사용합니다. 엔드포인트와 모델 이름 외에는 코드 변경이 필요 없습니다. 5. Authorization 헤더를 업데이트하여 OrcaRouter API 키를 사용합니다. 단일 요청으로 테스트하는 것이 좋습니다. OrcaRouter는 동일한 스트리밍 및 비스트리밍 모드를 사용합니다. 기반 OpenAI 모델이 동일하므로 모델 동작에 차이가 없습니다. 기존 프롬프트와 매개변수도 동일하게 작동합니다.
OrcaRouter API의 기본 URL은 https://api.orcarouter.ai/v1입니다. GPT-4o에 사용할 특정 모델 ID는 "openai/gpt-4o"입니다. 이 정확한 문자열을 요청의 "model" 매개변수에 전달해야 합니다. 예를 들어, 채팅 완료 엔드포인트 호출에서 "model": "openai/gpt-4o"로 설정합니다. OrcaRouter는 이 모델을 스트리밍 및 비스트리밍 완료 모두에 대해 지원합니다. 사용자 정의 기본 URL을 가리키도록 구성된 OpenAI SDK 또는 라이브러리를 사용하는 경우, 기본 URL을 https://api.orcarouter.ai/v1로 설정하고 OrcaRouter API 키를 제공하기만 하면 됩니다. 모델 ID 접두사 "openai/"는 OrcaRouter에서 다른 제공업체의 모델과 구별됩니다.
GPT-4o는 GPT-4 Turbo의 멀티모달 후속 모델입니다. 두 모델 모두 128k 컨텍스트 윈도우를 가지고 있습니다. 그러나 GPT-4o는 기본 이미지 및 파일 입력 지원을 추가한 반면, GPT-4 Turbo는 주로 텍스트 전용이었습니다(비전은 별도 버전에서만 사용 가능). GPT-4o는 또한 GPT-4 Turbo의 일반적인 4,096 또는 8,192 토큰에 비해 더 높은 최대 출력인 16,384 토큰을 지원합니다. 가격도 다릅니다: GPT-4 Turbo는 입력 100만 토큰당 $10.00, 출력 100만 토큰당 $30.00인 반면, GPT-4o는 훨씬 저렴합니다($2.50/$10.00). GPT-4o의 MATH-500 점수 75.9는 일반적으로 GPT-4 Turbo의 보고된 벤치마크보다 높지만, 정확한 Turbo 점수는 사실에 포함되어 있지 않습니다. OrcaRouter에서는 두 모델 모두 마크업 없이 사용할 수 있습니다.
GPT-3.5 Turbo는 단순한 작업에 최적화된 더 저렴하고 빠른 모델입니다. 컨텍스트 윈도우는 16,384개의 토큰으로, GPT-4o의 128k보다 훨씬 작습니다. GPT-3.5는 이미지 입력을 지원하지 않으며 텍스트 전용입니다. 가격은 입력 100만 토큰당 $0.50, 출력 100만 토큰당 $1.50으로, GPT-4o보다 입력은 약 5배, 출력은 약 6.6배 저렴합니다. MATH-500 벤치마크에서 GPT-3.5 Turbo는 일반적으로 훨씬 낮은 점수를 기록합니다(정확한 수치는 제공되지 않음). GPT-4o는 복잡한 추론, 긴 문서, 멀티모달 작업에 더 적합합니다. GPT-3.5 Turbo는 대량의 단순한 상호작용에 사용하세요. OrcaRouter에서는 모델 ID를 변경하여 쉽게 전환할 수 있습니다.
Claude 3.5 Sonnet는 Anthropic의 경쟁 모델입니다. 또한 200k 컨텍스트 창(GPT-4o의 128k보다 큼)을 가지며 이미지 입력을 지원합니다. Claude 3.5 Sonnet의 가격은 일반적으로 입력 1M당 $3.00, 출력 1M당 $15.00이며, 이는 GPT-4o가 입력에서는 더 저렴하지만 출력에서는 더 비싸다는 의미인가요? 실제로 GPT-4o는 입력 $2.50 vs $3.00으로 더 저렴하고, 출력 $10 vs $15로 더 저렴합니다. 벤치마크에서 Claude 3.5 Sonnet는 수학 및 추론에서 유사한 성능을 보이지만 정확한 점수는 다릅니다. 두 모델 모두 멀티모달 작업에 강력합니다. 둘 중 선택은 특정 성능 특성이나 생태계 선호도에 따라 달라질 수 있습니다. OrcaRouter에서는 동일한 API 형식을 통해 다른 모델 ID(예: "anthropic/claude-3.5-sonnet")로 둘 다 사용할 수 있습니다.
Llama 3.1 405B는 Meta가 개발한 4050억 개의 파라미터를 가진 오픈 가중치 모델입니다. 128k 컨텍스트 윈도우와 텍스트 입력을 지원하지만, 멀티모달 기능은 명확하지 않습니다(기본적으로 이미지를 지원하지 않을 수 있음). Llama 3.1 405B는 OrcaRouter를 통해 더 낮은 가격으로 이용할 수 있으며, 일반적으로 입력 100만 토큰당 약 $1.00, 출력 100만 토큰당 약 $1.00입니다(근사치이며 사실에 기반하지 않음). MATH-500 벤치마크 점수는 제공되지 않았지만 GPT-4o의 75.9보다 낮을 가능성이 큽니다. GPT-4o는 독점 모델로, 기본 제공되는 멀티모달 추론 능력이 더 뛰어나고 복잡한 작업에서 더 높은 정확도를 제공할 수 있습니다. Llama 3.1 405B는 오픈 모델을 원하거나 자체 호스팅이 필요한 사용자에게 좋은 선택입니다. OrcaRouter에서 두 모델을 나란히 비교할 수 있습니다.
OpenAI 호환 — 쓰던 SDK 그대로
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4o",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_completion_tokensmax_tokensnparallel_tool_callspredictionpresence_penaltyresponse_formatseedservice_tierstopstreamstructured_outputstemperaturetool_choicetoolstop_logprobstop_pweb_search_options| 입력 / 1M tokens | $2.50 |
| 출력 / 1M tokens | $10.00 |
| 캐시 읽기 / 1M | $1.25 |
| 통화 | USD |
정가 기준 추정치
추정치일 뿐입니다 — 실제 토큰 수는 제공자의 토크나이저에 따라 달라집니다.
@misc{orcarouter_gpt_4o,
title = {GPT-4o API},
author = {OpenAI},
year = {2024},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4o}
}OpenAI. (2024). GPT-4o API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4o