GPT-4o ("o" od "omni") to najnowszy model AI firmy OpenAI, obsługujący zarówno tekst, jak i obrazy jako wejścia, z wyjściem tekstowym. Utrzymuje poziom inteligencji [GPT-4 Turbo](/models/openai/gpt-4-turbo), będąc dwa razy...
GPT-4o to multimodalny duży model językowy od OpenAI. Przyjmuje dane wejściowe w postaci tekstu, obrazów i plików, a generuje tekst. Model został zaprojektowany dla użytkowników, którzy potrzebują…
GPT-4o wyróżnia się w rozumowaniu multimodalnym, przetwarzaniu długiego kontekstu i rozwiązywaniu problemów matematycznych. Jego kontekst 128k tokenów pozwala na przechowywanie i odnoszenie się do dużych ilości informacji, co czyni go przydatnym w zadaniach takich jak analiza dokumentów, generowanie kodu w całych projektach i złożone rozmowy wieloetapowe. Model uzyskał 75,9 punktów w benchmarku MATH-500, co wskazuje na silne umiejętności rozwiązywania problemów matematycznych. Dodatkowo, zdolność do przyjmowania obrazów i plików jako danych wejściowych oznacza, że może analizować treści wizualne – takie jak diagramy, wykresy czy fotografie – w połączeniu z tekstem. W OrcaRouter możesz wykorzystać te zalety bez żadnej marży w stosunku do cen podanych przez OpenAI.
GPT-4o jest wysoce skuteczny w zadaniach wymagających zarówno zrozumienia tekstu, jak i obrazów. Przykłady obejmują: odpowiadanie na pytania dotyczące diagramu w podręczniku, wyodrębnianie danych ze skanowanej faktury, generowanie kodu na podstawie obrazu makiety (wireframe) lub podsumowywanie długiego artykułu naukowego z ilustracjami. Jego duży kontekst sprawia również, że nadaje się do analizowania całych baz kodu lub długich dzienników rozmów. Rozumowanie matematyczne to kolejna mocna strona, co pokazuje wynik 75,9 na MATH-500. Na OrcaRouter te przypadki użycia są proste do wdrożenia — wysyłasz standardowe żądanie zgodne z OpenAI z odpowiednimi typami treści, a model zwraca odpowiedź tekstową.
Jeśli Twoje zadanie nie wymaga danych multimodalnych ani dużego kontekstu, tańszy model może okazać się bardziej opłacalny. Na przykład w przypadku prostych zadań, takich jak klasyfikacja tekstu, streszczanie lub tłumaczenie, które mieszczą się w mniejszym kontekście, modele takie jak GPT-3.5 Turbo (wyceniony na $0.50 za 1M tokenów wejściowych i $1.50 za 1M tokenów wyjściowych) są znacznie tańsze. Koszt wejściowy GPT-4o wynosi $2.50 za 1M tokenów, czyli pięciokrotnie więcej niż GPT-3.5 Turbo. Jeśli przetwarzasz duże ilości danych wyłącznie tekstowych i nie potrzebujesz rozumowania multimodalnego, mniejszy model może obniżyć koszty. OrcaRouter oferuje różnorodne modele, dzięki czemu możesz wybrać najlepszy balans między ceną a wydajnością.
GPT-4o został zaprojektowany do przyjmowania obrazów i plików jako danych wejściowych, umożliwiając wykonywanie zadań takich jak odpowiadanie na pytania wizualne, opisywanie obrazów i analiza dokumentów. Chociaż w dostępnych faktach nie podano konkretnych wyników testów wielomodalnych, architektura modelu obsługuje wspólne wnioskowanie na podstawie tekstu i obrazów. Na przykład może liczyć obiekty na obrazie lub interpretować wykres. Model generuje wyłącznie tekst, a nie obrazy. W systemie OrcaRouter żądania wielomodalne są wysyłane z użyciem tych samych parametrów co w API OpenAI: należy dodać część dotyczącą image_url lub zawartości pliku w tablicy messages. Model przetwarza dane wizualne i zwraca odpowiedź tekstową na podstawie połączonych danych wejściowych.
GPT-4o osiąga wynik 75.9 w benchmarku MATH-500. MATH-500 jest podzbiorem zbioru danych MATH, który składa się z 500 trudnych problemów matematycznych z różnych dziedzin, takich jak algebra, geometria i rachunek różniczkowy. Wynik 75.9 oznacza, że model poprawnie rozwiązuje około 76% tych problemów. Wskazuje to na silne zdolności rozumowania matematycznego, choć nie są one doskonałe. Dla porównania, wiele mniejszych modeli osiąga wyniki poniżej 50 w podobnych benchmarkach. Wynik ten odzwierciedla zdolność modelu do przeprowadzania wieloetapowego rozumowania i obsługi notacji matematycznej. Na OrcaRouter możesz używać GPT-4o do zadań związanych z matematyką, takich jak korepetycje, przygotowanie do testów lub weryfikacja obliczeń.
Jak wszystkie duże modele językowe, GPT-4o ma ograniczenia. Może generować niepoprawne lub halucynacyjne odpowiedzi, szczególnie w tematach z ograniczonymi danymi treningowymi lub wymagających bardzo aktualnej wiedzy (data graniczna treningu nie jest podana w faktach, ale jako model OpenAI ma granicę wiedzy). Może być wrażliwy na sformułowanie promptu i mieć trudności z niejednoznacznymi instrukcjami. Pomimo swojego wysokiego wyniku MATH-500, nie jest nieomylny w przypadku złożonych dowodów matematycznych. Model przetwarza obrazy, ale ich nie generuje. Dodatkowo, duże okno kontekstu (128k tokenów) może prowadzić do zwiększonego zużycia tokenów, podnosząc koszty, jeśli nie jest starannie zarządzane. Na OrcaRouter możesz złagodzić niektóre problemy, dostosowując parametry takie jak temperature i top_p.
Dokładne dane dotyczące opóźnień dla GPT-4o nie są podane w faktach. Ogólnie rzecz biorąc, GPT-4o to duży model i będzie miał większe opóźnienia w porównaniu z mniejszymi modelami, takimi jak GPT-3.5 Turbo czy Llama 3.1 8B. Jednak prawdopodobnie jest zoptymalizowany pod kątem szybszego wnioskowania niż oryginalny GPT-4. Dzięki OrcaRouter możesz spodziewać się czasów odpowiedzi podobnych do tych, które uzyskałbyś bezpośrednio od OpenAI, ponieważ platforma kieruje żądania bez dodatkowego przetwarzania. W przypadku aplikacji czasu rzeczywistego, gdzie szybkość jest kluczowa, rozważ użycie szybszego, tańszego modelu do prostszych zadań i zarezerwowanie GPT-4o dla złożonych zapytań, które korzystają z jego możliwości.
W OrcaRouter, GPT-4o jest wyceniane dokładnie według stawek OpenAI: $2.50 za 1 milion tokenów wejściowych i $10.00 za 1 milion tokenów wyjściowych. OrcaRouter nie dodaje żadnej marży. Rozliczenia opierają się na liczbie tokenów zaokrąglonej do najbliższego całego tokena. Tokeny wejściowe obejmują tekst, obrazy i pliki, które wysyłasz, przy czym obrazy są zazwyczaj tokenizowane według stałej stawki przez model (np. każdy obraz pochłania określoną liczbę tokenów). Tokeny wyjściowe to tekst generowany przez model. Płacisz tylko za to, czego używasz; nie ma opłat miesięcznych ani minimalnych zobowiązań. Ta przejrzysta wycena pozwala dokładnie budżetować koszty dla Twoich obciążeń AI.
Głównym kompromisem jest koszt względem możliwości. GPT-4o kosztuje 2,50 USD za wejście i 10 USD za wyjście na 1 milion tokenów. Tańsze modele, takie jak GPT-3.5 Turbo (0,50 USD za wejście, 1,50 USD za wyjście) lub Llama 3.1 8B, są bardziej ekonomiczne w przypadku prostych lub wielkoskalowych zadań. Jednak GPT-4o oferuje multimodalne wejście i większe okno kontekstowe. Jeśli Twoja aplikacja wymaga rozumienia obrazów lub przetwarzania bardzo długich dokumentów, GPT-4o może być konieczny pomimo wyższego kosztu. W przypadku zadań tylko tekstowych z krótkimi danymi wejściowymi tańszy model może zaoszczędzić pieniądze. W OrcaRouter możesz przełączać się między modelami, zmieniając po prostu ID modelu, co pozwala optymalizować koszty dla każdego żądania.
Nie. OrcaRouter rozlicza GPT-4o według dokładnej stawki dostawcy bez żadnej marży. Ceny wynoszą $2.50 za 1M tokenów wejściowych i $10.00 za 1M tokenów wyjściowych. Nie ma ukrytych opłat, prób sprzedaży dodatkowej ani dodatkowych kosztów. OrcaRouter przekazuje koszt bezpośrednio od OpenAI. Zasada ta dotyczy wszystkich modeli wymienionych na platformie. Podstawowy adres URL to https://api.orcarouter.ai/v1, a identyfikator modelu to "openai/gpt-4o". Możesz w każdej chwili zweryfikować ceny, sprawdzając swój pulpit użytkowania. Nie ma cen warstwowych ani wymogu zobowiązania – płacisz tylko za zużyte tokeny.
Aby używać GPT-4o przez OrcaRouter, wysyłaj żądania HTTP POST na podstawowy adres URL https://api.orcarouter.ai/v1/chat/completions. Ustaw parametr model na "openai/gpt-4o". Twoje żądanie musi zawierać klucz API (podaj swój klucz API OrcaRouter w nagłówku Authorization). Ciało żądania jest zgodne ze standardowym formatem OpenAI chat completions: tablica messages z parami role/content, opcjonalne parametry takie jak temperature, max_tokens, top_p itd. W przypadku danych multimodalnych dołącz części content, które mają typ "text" lub "image_url" (lub file). Odpowiedź to obiekt JSON zawierający odpowiedź modelu. Przykładowe polecenie curl: curl https://api.orcarouter.ai/v1/chat/completions -H "Authorization: Bearer YOUR_API_KEY" -H "Content-Type: application/json" -d '{"model":"openai/gpt-4o","messages":[{"role":"user","content":[{"type":"text","text":"What is in this image?"},{"type":"image_url","image_url":{"url":"https://example.com/image.jpg"}}]}]}'
Kiedy wywołujesz GPT-4o przez OrcaRouter, możesz używać tych samych parametrów co w API OpenAI. Najczęściej używane parametry to: - temperature (float, 0-2): Kontroluje losowość. Niższe wartości, np. 0.2, powodują bardziej deterministyczne wyniki. - max_tokens (integer, domyślnie 16384): Maksymalna liczba tokenów w odpowiedzi. - top_p (float, 0-1): Parametr próbkowania jądra (nucleus sampling). - frequency_penalty i presence_penalty: Zmniejszają powtarzalność. - stop (string lub tablica): Sekwencje zatrzymujące. - stream (boolean): Włączanie przesyłania strumieniowego odpowiedzi (true/false). - seed (integer): Do deterministycznego próbkowania. Możesz także użyć opcjonalnego pola "user" do śledzenia poszczególnych użytkowników. Model obsługuje wywoływanie funkcji i korzystanie z narzędzi, choć nie wymieniono tego jawnie w faktach. W OrcaRouter akceptowane są wszystkie standardowe parametry.
Migracja jest prosta, ponieważ OrcaRouter oferuje punkt końcowy zgodny z OpenAI. Kroki: 1. Uzyskaj klucz API od OrcaRouter (zarejestruj się na ich stronie internetowej). 2. Zmień podstawowy URL z https://api.openai.com/v1 na https://api.orcarouter.ai/v1. 3. Zmień ID modelu z "gpt-4o" na "openai/gpt-4o". 4. Użyj tego samego formatu treści żądania. Nie są potrzebne żadne zmiany w kodzie poza punktem końcowym i nazwą modelu. 5. Zaktualizuj nagłówek Authorization, aby używał twojego klucza API OrcaRouter. Zaleca się przetestowanie za pomocą pojedynczego żądania. OrcaRouter używa tych samych trybów strumieniowania i niestrumieniowania. Nie ma różnicy w działaniu modelu, ponieważ jest to ten sam bazowy model OpenAI. Twoje istniejące podpowiedzi i parametry będą działać identycznie.
Podstawowy adres URL API OrcaRouter to https://api.orcarouter.ai/v1. Identyfikator modelu dla GPT-4o to "openai/gpt-4o". Ten dokładny string musi być przekazany w parametrze "model" w zapytaniu. Na przykład, w wywołaniu endpointu chat completions ustawiasz "model": "openai/gpt-4o". OrcaRouter obsługuje ten model zarówno dla streamingowych, jak i niestreamingowych odpowiedzi. Jeśli używasz SDK lub biblioteki OpenAI skonfigurowanej do wskazywania niestandardowego adresu URL, po prostu ustaw podstawowy adres URL na https://api.orcarouter.ai/v1 i podaj swój klucz API OrcaRouter. Prefiks identyfikatora modelu "openai/" odróżnia go od modeli innych dostawców na OrcaRouter.
GPT-4o jest multimodalnym następcą GPT-4 Turbo. Oba modele mają okno kontekstu o pojemności 128k. Jednakże GPT-4o dodaje natywną obsługę obrazów i plików wejściowych, podczas gdy GPT-4 Turbo był przede wszystkim tekstowy (z opcją widzenia dostępną tylko w oddzielnych wersjach). GPT-4o ma również wyższy maksymalny wynik – 16 384 tokenów w porównaniu do typowych 4096 lub 8192 tokenów w GPT-4 Turbo. Ceny różnią się: GPT-4 Turbo kosztuje 10,00 USD za 1M wejściowych i 30,00 USD za 1M wyjściowych, co czyni GPT-4o znacznie tańszym (2,50 USD / 10,00 USD). Wynik MATH-500 na poziomie 75,9 dla GPT-4o jest generalnie wyższy niż raportowane benchmarki GPT-4 Turbo, chociaż dokładne wyniki Turbo nie są podane w faktach. W OrcaRouter oba modele są dostępne z zerową marżą.
GPT-3.5 Turbo to tańszy, szybszy model zoptymalizowany pod kątem prostych zadań. Jego okno kontekstu wynosi 16384 tokeny, czyli znacznie mniej niż 128k GPT-4o. GPT-3.5 nie obsługuje obrazów – jest wyłącznie tekstowy. Ceny wynoszą 0,50 USD za 1 milion tokenów wejściowych i 1,50 USD za 1 milion tokenów wyjściowych, co czyni go około 5 razy tańszym dla wejść i 6,6 razy tańszym dla wyjść w porównaniu do GPT-4o. W benchmarku MATH-500 GPT-3.5 Turbo osiąga zazwyczaj znacznie niższe wyniki (dokładne liczby nie zostały podane). GPT-4o lepiej nadaje się do złożonego rozumowania, długich dokumentów i zadań multimodalnych. Używaj GPT-3.5 Turbo do prostych interakcji o dużej objętości. Na OrcaRouter możesz łatwo przełączać się między nimi, zmieniając identyfikator modelu.
Claude 3.5 Sonnet to konkurencyjny model od Anthropic. Ma także okno kontekstowe o wielkości 200k (większe niż 128k w GPT-4o) i obsługuje dane wejściowe w postaci obrazów. Cennik Claude 3.5 Sonnet wynosi zazwyczaj $3.00 za 1M wejścia i $15.00 za 1M wyjścia, co sprawia, że GPT-4o jest tańszy na wejściu, ale droższy na wyjściu? W rzeczywistości GPT-4o ma $2.50 za wejście wobec $3.00, więc tańszy; wyjście $10 wobec $15, więc też tańszy. W benchmarkach Claude 3.5 Sonnet osiąga podobną wydajność w matematyce i rozumowaniu, ale dokładne wyniki się różnią. Oba modele są mocne w zadaniach multimodalnych. Wybór między nimi może zależeć od konkretnych charakterystyk wydajnościowych lub preferencji ekosystemu. W OrcaRouter oba są dostępne za pomocą tego samego formatu API, ale z różnymi identyfikatorami modeli (np. "anthropic/claude-3.5-sonnet").
Llama 3.1 405B to model o otwartej wadze od Meta z 405 miliardami parametrów. Obsługuje również okno kontekstowe 128k oraz wprowadzanie tekstu, ale jego możliwości multimodalne są mniej jasne (może nie obsługiwać natywnie obrazów). Llama 3.1 405B jest dostępna za pośrednictwem OrcaRouter w niższej cenie, zazwyczaj około 1,00 USD za 1M tokenów wejściowych i 1,00 USD za 1M tokenów wyjściowych (w przybliżeniu, nie podano w faktach). Jego wyniki benchmarków na MATH-500 nie są podane, ale prawdopodobnie są niższe niż 75,9 GPT-4o. GPT-4o jest zastrzeżony i oferuje lepsze multimodalne rozumowanie od razu po wyjęciu z pudełka oraz potencjalnie wyższą dokładność w złożonych zadaniach. Llama 3.1 405B to dobry wybór dla użytkowników, którzy chcą otwartego modelu lub potrzebują hostingu lokalnego. Na OrcaRouter możesz porównać oba modele obok siebie.
Zgodne z OpenAI — zostań przy swoim SDK
https://api.orcarouter.ai/v1from openai import OpenAI
client = OpenAI(
base_url="https://api.orcarouter.ai/v1",
api_key="$ORCAROUTER_API_KEY",
)
response = client.chat.completions.create(
model="openai/gpt-4o",
messages=[{"role": "user", "content": "Hello"}],
)
print(response.choices[0].message.content)frequency_penaltylogit_biaslogprobsmax_completion_tokensmax_tokensnparallel_tool_callspredictionpresence_penaltyresponse_formatseedservice_tierstopstreamstructured_outputstemperaturetool_choicetoolstop_logprobstop_pweb_search_options| Wejście / 1M tokenów | $2.50 |
| Wyjście / 1M tokenów | $10.00 |
| Odczyt cache / 1M | $1.25 |
| Waluta | USD |
Szacunek na podstawie cennika
Tylko szacunek — rzeczywista liczba tokenów zależy od tokenizatora dostawcy.
GET /api/public/models/openai/gpt-4oOtwórz @misc{orcarouter_gpt_4o,
title = {GPT-4o API},
author = {OpenAI},
year = {2024},
howpublished = {OrcaRouter},
url = {https://www.orcarouter.ai/models/openai/gpt-4o}
}OpenAI. (2024). GPT-4o API. OrcaRouter. https://www.orcarouter.ai/models/openai/gpt-4o