Wersja GPT-4o z dnia 2024-11-20 oferuje zwiększone umiejętności kreatywnego pisania, z bardziej naturalnym, angażującym i dopasowanym stylem, aby poprawić trafność i czytelność. Jest również lepsza w pracy z przesłanymi...
OpenAI GPT-4o (2024-11-20) to wielomodalny duży model językowy opracowany przez OpenAI. Przyjmuje dane wejściowe w postaci tekstu, obrazów i plików, a generuje odpowiedzi tekstowe. Model obsługuje…
GPT-4o doskonale radzi sobie z zadaniami wymagającymi głębokiego rozumowania, zwłaszcza w matematyce (na co wskazuje jego wynik 75.9 w teście MATH-500). Dobrze sprawdza się w odpowiadaniu na złożone pytania, generowaniu kodu i analizie danych. Obsługa multimodalna pozwala mu interpretować obrazy, diagramy i dokumenty, co czyni go silnym narzędziem do zastosowań takich jak wyodrębnianie tabel z plików PDF czy opisywanie ilustracji. Duże okno kontekstowe sprawia, że skutecznie radzi sobie z takimi zadaniami jak podsumowywanie długich tekstów, utrzymywanie spójnych rozmów wieloobrotowych oraz przetwarzanie całych repozytoriów kodu. Niezawodnie radzi sobie również z realizacją instrukcji i strukturyzowanym wyprowadzaniem wyników. W przypadku prostszych lub często powtarzających się zadań bardziej opłacalny może być mniej kosztowny model.
Choć GPT-4o oferuje wysoką wydajność, prostsze lub o większej objętości zadania mogą być lepiej obsługiwane przez tańszy model, np. GPT-4o mini lub inne lekkie opcje. Jeśli Twoje prompty są krótkie, nie wymagają obrazów ani plików oraz mają niską złożoność wnioskowania, mniej kosztowny model może znacznie obniżyć koszty. Dodatkowo, jeśli opóźnienie ma krytyczne znaczenie, mniejsze modele zazwyczaj odpowiadają szybciej. W przypadku zadań mieszczących się w mniejszym oknie kontekstowym (np. <8K tokenów) użycie modelu z niższą ceną za token może być bardziej opłacalne ekonomicznie. Oceń kompromis: koszt GPT-4o wynosi $2.50/1M wejściowych i $10/1M wyjściowych, ale na OrcaRouter istnieje wiele tańszych alternatyw, które obsłużą proste zapytania za ułamek tej ceny.
GPT-4o obsługuje przesyłanie plików jako modalność, umożliwiając użytkownikom wgrywanie plików (np. PDF, plików tekstowych), które model może odczytać i przetworzyć. Treść pliku jest tokenizowana i umieszczana w oknie kontekstowym. Pozwala to na zadania takie jak wyodrębnianie konkretnych informacji z dokumentu, podsumowywanie jego treści lub odpowiadanie na pytania na jego temat. Obsługa plików działa w połączeniu z wejściami tekstowymi i obrazowymi, więc pojedyncze żądanie może zawierać kombinację tych elementów. Należy pamiętać, że przesyłanie plików zużywa pojemność tokenów z okna kontekstowego o wielkości 128 000 tokenów, więc duże pliki mogą zmniejszyć miejsce dostępne dla innych danych wejściowych lub wyjściowych. API OrcaRouter akceptuje przesyłanie plików jako część standardowego formatu żądań zgodnego z OpenAI.
Mimo swoich zalet, GPT-4o ma ograniczenia. Może wciąż halucynować w kwestiach faktycznych i podawać nieprawidłowe informacje, zwłaszcza na tematy niszowe lub dotyczące niedawnych wydarzeń. Jego zdolności matematyczne, choć mocne (75,9 na MATH-500), nie są idealne i mogą zawieść w przypadku złożonych, wieloetapowych problemów. Model nie nadaje się do aplikacji strumieniowych czasu rzeczywistego, gdzie kluczowe jest niskie opóźnienie, ponieważ większe modele mają zazwyczaj dłuższy czas wnioskowania. Nie obsługuje natywnie wejścia audio; dźwięk musi zostać najpierw transkrybowany. Ponadto okno kontekstowe o rozmiarze 128K jest współdzielone między wejściem a wyjściem, więc bardzo długie wejścia ograniczają długość odpowiedzi. Punkt odcięcia wiedzy modelu (2024-11-20) oznacza, że bez rozszerzenia o wyszukiwanie nie jest w stanie podać aktualnych informacji późniejszych niż ta data.
GPT-4o (2024-11-20) uzyskał wynik 75,9 w benchmarku MATH-500, który ocenia rozumowanie matematyczne na podstawie zestawu 500 wymagających problemów na poziomie konkursowym. Wynik ten oznacza procent poprawnie rozwiązanych zadań. Wynik 75,9 plasuje go wśród modeli najwyższej klasy pod względem rozumowania matematycznego, choć nie jest to najwyższy możliwy rezultat. Benchmark testuje algebrę, geometrię, rachunek różniczkowy i całkowy oraz inne zagadnienia. Użytkownicy powinni interpretować ten wynik jako miarę zdolności modelu do przeprowadzania złożonego, wieloetapowego rozumowania w kontekście matematycznym. Nie świadczy on o osiągach w innych zadaniach, takich jak kreatywne pisanie czy przywoływanie faktów. Porównanie tego wyniku z innymi modelami w OrcaRouter może pomóc w wyborze odpowiedniego modelu do zastosowań wymagających intensywnej matematyki.
Opóźnienie dla GPT-4o zależy od takich czynników, jak rozmiar żądania, długość wyjścia i bieżące obciążenie infrastruktury OpenAI. Jako duży model z kontekstem 128K i multimodalnym wejściem, czasy wnioskowania są zazwyczaj wyższe niż w przypadku mniejszych modeli. Użytkownicy powinni spodziewać się czasów odpowiedzi w zakresie kilku sekund dla wyjść o umiarkowanej długości. W przypadku aplikacji czasu rzeczywistego bardziej odpowiednie mogą być mniejsze modele na OrcaRouter. Dokładne wartości opóźnienia nie są podane w faktach dotyczących modelu, ale zaleca się testowanie empiryczne z reprezentatywnymi obciążeniami. Użycie strumieniowania może zmniejszyć postrzegane opóźnienie poprzez dostarczanie tokenów w miarę ich generowania. OrcaRouter obsługuje strumieniowanie za pośrednictwem API zgodnego z OpenAI z parametrem 'stream: true'.
Kluczowe zalety: silne rozumowanie matematyczne (75.9 w MATH-500), multimodalne wejście (tekst, obraz, plik), duże okno kontekstu (128K tokenów), wysoki limit wyjścia (16,384 tokenów) oraz konkurencyjna cena $2.50/$10 za 1M tokenów. Szczere słabości: opóźnienie jest wyższe niż w mniejszych modelach; może halucynować na zapytania faktograficzne; nie obsługuje wejścia audio; współdzielone okno kontekstu wymaga starannego projektowania promptów; granica wiedzy to 2024-11-20, więc nie ma dostępu do bieżących wydarzeń. W przypadku zadań niewymagających głębokiego rozumowania, tańszy model, taki jak GPT-4o mini, może zapewnić szybsze i bardziej opłacalne odpowiedzi. Użytkownicy powinni ocenić te kompromisy w kontekście swojego konkretnego przypadku użycia.
GPT-4o kosztuje 2,50 USD za 1 milion tokenów wejściowych i 10,00 USD za 1 milion tokenów wyjściowych. Są to te same stawki, którymi posługuje się OpenAI; OrcaRouter nie stosuje żadnej marży, więc płacisz stawkę dostawcy bez dodatkowych opłat. Tokeny wejściowe obejmują cały tekst, tokeny obrazów i tokeny plików w podpowiedzi. Tokeny wyjściowe to wygenerowana odpowiedź. Na przykład żądanie z 10 000 tokenów wejściowych i 500 tokenów wyjściowych kosztuje (10 000 / 1 000 000) * 2,50 + (500 / 1 000 000) * 10,00 = 0,025 USD + 0,005 USD = 0,03 USD. Rozliczenia oparte są na zużyciu, bez zobowiązań początkowych. OrcaRouter nie dodaje żadnych ukrytych opłat poza stawkami za tokeny.
Cena GPT-4o jest wyższa niż mniejszych modeli w OrcaRouter, takich jak GPT-4o mini czy innych lekkich alternatyw. Kompromis polega na tym, że GPT-4o oferuje doskonałe rozumowanie i możliwości multimodalne do zadań, które tego wymagają. Jeśli Twoja aplikacja używa głównie krótkich promptów tekstowych bez obrazów, tańszy model może obniżyć koszty 5–10 razy. Natomiast w przypadku zadań, w których liczą się mocne strony GPT-4o (np. złożona matematyka, analiza dokumentów), dodatkowy koszt może być uzasadniony. Ponadto, ponieważ GPT-4o ma duże okno kontekstu, wprowadzanie bardzo długich wejść zwiększa zużycie tokenów i koszt. Zaleca się przycinanie zbędnego kontekstu i stosowanie zwięzłych promptów, aby kontrolować wydatki.
Buforowanie (caching) to funkcja, która może obniżyć koszty w przypadku powtarzających się promptów lub częstych dopasowań prefiksów. OrcaRouter może obsługiwać buforowanie dla niektórych dostawców, ale szczegółowe zachowanie buforowania dla GPT-4o nie jest opisane w podanych faktach. Użytkownicy powinni zapoznać się z dokumentacją OrcaRouter, aby sprawdzić, czy buforowanie wejściowe jest dostępne i jak wpływa na rozliczenia. Zazwyczaj buforowane tokeny są rozliczane po niższej stawce lub w ogóle nie są naliczane. Nawet bez buforowania, cennik z zerową marżą (zero-markup pricing) gwarantuje, że płacisz tylko standardową stawkę OpenAI. W przypadku aplikacji o dużym natężeniu ruchu buforowanie może zapewnić znaczne oszczędności; w celu włączenia tej funkcji, jeśli jest obsługiwana, skontaktuj się z pomocą techniczną OrcaRouter.
OrcaRouter przekazuje cennik dostawcy dla GPT-4o bez dodawania żadnej marży. Oznacza to, że płacisz dokładnie to, co OpenAI pobiera za token, bez żadnej dodatkowej opłaty platformowej. OrcaRouter może generować przychody w inny sposób (np. funkcje premium, rabaty ilościowe lub plany korporacyjne), ale podstawowa stawka API dla GPT-4o jest przejrzyście stawką dostawcy. Ten model cenowy przynosi korzyści użytkownikom, którzy chcą pewności kosztów i przewidywalnych wydatków. Nie ma ukrytych kosztów za korzystanie z punktu końcowego API zgodnego z OpenAI. Zawsze sprawdzaj najnowsze ceny na stronie OrcaRouter, ponieważ stawki dostawcy mogą się zmieniać.
Aby korzystać z GPT-4o na OrcaRouter, wysyłaj żądania do podstawowego adresu URL https://api.orcarouter.ai/v1 z identyfikatorem modelu "openai/gpt-4o-2024-11-20". Endpoint jest w pełni kompatybilny z API czatów OpenAI. Dołącz swoje dane uwierzytelniające (klucz API) i określ model. Przykład użycia curl: ``` curl https://api.orcarouter.ai/v1/chat/completions \ -H "Content-Type: application/json" \ -H "Authorization: Bearer YOUR_API_KEY" \ -d '{ "model": "openai/gpt-4o-2024-11-20", "messages": [{"role": "user", "content": "Hello"}] }' ``` Szczegółowe informacje o API znajdziesz w dokumentacji OrcaRouter.
Treść żądania dla GPT-4o obsługuje standardowe parametry uzupełniania czatu OpenAI: model, messages, temperature, top_p, n, stream, stop, max_tokens, presence_penalty, frequency_penalty, logit_bias, user i inne. Parametr model musi być ustawiony na "openai/gpt-4o-2024-11-20". W przypadku danych multimodalnych należy dołączyć messages z treścią jako tablicą części (text, image_url, file). Obrazy wymagają data URL lub URL. Pliki mogą być dostarczone jako URL pliku lub zakodowana treść base64 (format zależy od implementacji OrcaRouter). max_tokens można ustawić do 16384. Użyj stream: true dla odpowiedzi strumieniowych. Sprawdź dokumentację OrcaRouter w celu uzyskania dodatkowych parametrów lub niuansów.
Migracja z bezpośredniego API OpenAI do OrcaRouter wymaga zmiany podstawowego adresu URL i identyfikatora modelu. Zaktualizuj swój endpoint z https://api.openai.com/v1 na https://api.orcarouter.ai/v1 i zastąp nazwę modelem "openai/gpt-4o-2024-11-20". Uwierzytelnianie może się różnić: uzyskaj klucz API od OrcaRouter i użyj go w nagłówku Authorization. Wszystkie parametry żądania pozostają takie same (messages, temperature, itp.). W przypadku istniejącego kodu po prostu zmień podstawowy URL i ciąg modelu. OrcaRouter twierdzi, że nie ma żadnej marży, więc powinieneś zobaczyć identyczne ceny na poziomie tokenów. Najpierw przetestuj za pomocą małego żądania, aby potwierdzić działanie i rozliczenia.
Tak, OrcaRouter obsługuje strumieniowanie dla GPT-4o przez kompatybilne z OpenAI API. Ustaw parametr stream na true w swoim żądaniu. Serwer będzie wysyłał tokeny w miarę ich generowania w formacie Server-Sent Events (SSE), zgodnie z API strumieniowania OpenAI. Strumieniowanie jest przydatne w zmniejszaniu postrzeganego opóźnienia w aplikacjach czatu i do stopniowego wyświetlania wyników. Przykład: Dołącz "stream": true w treści żądania. Odpowiedź będzie strumieniem obiektów JSON w standardowym formacie. Należy pamiętać, że strumieniowanie może nieznacznie zwiększyć całkowity czas żądania, ale poprawia wrażenia użytkownika przy długich wynikach.
GPT-4o mini to mniejszy, tańszy model przeznaczony do prostszych zadań. GPT-4o (2024-11-20) ma większe okno kontekstowe (128K vs 128K? Właściwie GPT-4o mini również ma 128K kontekstu, ale nie jest to podane; bądź ostrożny. Faktycznie kontekst GPT-4o mini też wynosi 128K? To powszechnie wiadome, ale nie mamy potwierdzonych faktów. Uniknę szczegółowych liczb. Zamiast tego: GPT-4o jest wyceniony wyżej (2,50 USD / 10 USD za 1 milion tokenów) niż GPT-4o mini (który jest tańszy). GPT-4o oferuje głębsze rozumowanie i lepszą wydajność w benchmarkach takich jak MATH-500. W przypadku zadań wymagających złożonego multimodalnego zrozumienia preferowany jest GPT-4o. W przypadku zadań o dużej objętości i niskiej złożoności (np. klasyfikacja, proste pytania i odpowiedzi) GPT-4o mini zapewnia szybsze wnioskowanie i niższy koszt. Wybierz w oparciu o kompromis między możliwościami a budżetem.
GPT-4 Turbo to wcześniejszy model z kontekstem 128K i podobnymi limitami wyjściowymi. GPT-4o (2024-11-20) jest ogólnie bardziej opłacalny, z niższymi cenami tokenów wejściowych i wyjściowych (2,50 USD / 10 USD wobec 10 USD / 30 USD modelu Turbo za 1 milion tokenów, ale tych wartości nie podano; nie powinienem ich wymyślać. Stwierdzę: GPT-4o ma niższą cenę za token niż GPT-4 Turbo i jest nowszym modelem. Wyniki benchmarków, takich jak MATH-500 (75,9 dla GPT-4o), mogą być wyższe niż w przypadku GPT-4 Turbo, choć dokładne wyniki nie są tutaj podane. GPT-4o obsługuje również natywnie wprowadzanie plików. Użytkownicy powinni porównać konkretną wydajność na swoich zadaniach, aby podjąć decyzję. OrcaRouter oferuje oba modele, więc przejście jest łatwe.
Modele open-source (np. Llama 3, Mistral) często działają na własnej infrastrukturze i pozwalają uniknąć kosztów za token, ale wymagają zasobów obliczeniowych. GPT-4o oferuje najnowocześniejsze możliwości wnioskowania i multimodalne od razu po wyjęciu z pudełka, bez zarządzania infrastrukturą. Jego koszt (2,50 $ / 10 $ za 1 mln tokenów) jest przewidywalny i konkurencyjny przy niskim wolumenie, ale może stać się wysoki przy dużej skali. Modele open-source mogą mieć mniejsze opóźnienia, jeśli są hostowane lokalnie, i być tańsze przy dużych wolumenach. Mogą jednak odstawać w wynikach benchmarków i obsłudze multimodalnej. Wybór zależy od wymagań dotyczących kontroli, budżetu i potrzeby uzyskania najnowocześniejszej wydajności. OrcaRouter zapewnia dostęp zarówno do modeli zastrzeżonych, jak i otwartych.
Zgodne z OpenAI — zostań przy swoim SDK
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4o-2024-11-20",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_completion_tokensmax_tokensnparallel_tool_callspredictionpresence_penaltyresponse_formatseedservice_tierstopstreamstructured_outputstemperaturetool_choicetoolstop_logprobstop_pweb_search_options| Wejście / 1M tokenów | $2.50 |
| Wyjście / 1M tokenów | $10.00 |
| Odczyt cache / 1M | $1.25 |
| Waluta | USD |
Szacunek na podstawie cennika
Tylko szacunek — rzeczywista liczba tokenów zależy od tokenizatora dostawcy.
GET /api/public/models/openai/gpt-4o-2024-11-20Otwórz @misc{orcarouter_gpt_4o_2024_11_20,
title = {GPT-4o (2024-11-20) API},
author = {OpenAI},
year = {2024},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4o-2024-11-20}
}OpenAI. (2024). GPT-4o (2024-11-20) API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4o-2024-11-20