OpenAI prezentuje pierwsze wyniki Jalapeño: wysoka szybkość i efektywność inferencji AI

Firma OpenAI opublikowała pierwsze oficjalne wyniki wydajności Jalapeño, swojego autorskiego układu scalonego, którego głównym rynkowym zadaniem jest inferencja AI. Pomiary pokazują, że ten dedykowany hardware zapewnia znacznie wyższą przepustowość i niższe opóźnienia w porównaniu z wiodącymi akceleratorami dostępnymi obecnie na rynku, zużywając przy tym relatywnie mniejszą ilość energii. Posiadanie i wdrożenie własnego sprzętu pozwoli na obsługę coraz bardziej złożonych i interaktywnych zadań serwowanych użytkownikom z niespotykaną dotąd szybkością, co może okazać się wręcz kluczowe chociażby przy wprowadzaniu nowości technologicznych ujawnionych niedawno w modelu GPT-5.6 Sol.

Architektura stworzona od zera dla obciążeń językowych

Jalapeño to typowy układ klasy ASIC (Application-Specific Integrated Circuit), który według danych rynkowych został opracowany w ścisłej współpracy z dostawcami takimi jak Broadcom oraz Celestica. Prace inżynieryjne – od wstępnego projektu do fazy określanej jako tapeout – zajęły zespołom zaledwie dziewięć miesięcy. Architektura Jalapeño od samego początku powstawała w konwencji "czystej karty" – eksperci zadali sobie kluczowe pytanie o to, jak powinien wyglądać idealny komponent sprzętowy, którego głównym i wyłącznym zastosowaniem ma być obsługa nowoczesnych modeli językowych oraz wsparcie złożonych systemów agentowych.

Działanie tego formatu sztucznej inteligencji dzieli się na dwie główne i zarazem odrębne fazy. Etap znany jako prefill (czyli przetwarzanie przesyłanego promptu) stawia potężne wymagania dla samej mocy obliczeniowej podzespołów, natomiast etap decode (odpowiadający za sekwencyjne generowanie odpowiedzi token po tokenie) napotyka na mocne bariery ograniczone przepustowością dostępnej pamięci. System, który radzi sobie wybitnie na jednym etapie, w tradycyjnych rozwiązaniach często traci tę przewagę, czekając na dostarczenie odpowiednich informacji. Jalapeño przeciwdziała temu zjawisku dzięki znacznemu ograniczeniu tzw. wąskich gardeł komunikacyjnych i redukcji zbędnego ruchu między rdzeniami układu logicznego.

W procesie konstruowania układu Jalapeño firma wykorzystywała własne modele sztucznej inteligencji. Autorskie narzędzie Codex with GPT-Astra posłużyło inżynierom do pisania optymalizacji pod wybrane algorytmy. Rozwiązania wygenerowane samodzielnie przez inteligentne boty dla kluczowych bloków obliczeniowych, takich jak attention czy infrastruktury opartej na mixture-of-experts w środowiskach GPT-OSS, wykazywały prędkość działania od 1.5 do 1.8 raza szybszą niż ich programistyczne odpowiedniki tworzone przez inżynierów zespołu ludzkiego.

Wyniki w rynkowym benchmarku InferenceX

Do rzetelnej oceny wydajności zastosowano publiczny benchmark InferenceX, rozwijany przez niezależnych analityków z zespołu SemiAnalysis, który symuluje kompleksowe procesy obsługi zapytań SI.

Zbiorcze rezultaty wyraźnie ilustrują przewagę technologiczną: nowy chip dostarcza od 1.5 do 1.9 raza więcej użytecznej pracy na każdy wydatkowany wat (przy obciążeniach o wartościach z pułapu szczytowej przepustowości), redukując jednocześnie ogólne opóźnienie definiowane przez wskaźnik end-to-end latency średnio od 1.7 do nawet 3.6 raza. W zadaniach o bardzo gęstej interakcji różnica ta wynosiła zysk wydajnościowy rzędu 2.1 do 4.1 raza.

Rozpatrując te zyski należy zwrócić uwagę na obciążenie energetyczne. Choć w specyfikacji Jalapeño widnieje TDP ujęte na 700 W, układ w trakcie stałego testowania pobierał nie więcej niż 550 W.

W tabeli poniżej ukazano szczegółowe różnice dla trzech wybranych modeli o odmiennych parametrach złożoności, zestawiając rezultaty układu OpenAI z komercyjnymi systemami referencyjnymi (posiadającymi wyższe parametry obciążeń w okolicach 1,200 W dla architektury GB200 oraz 1,400 W dla systemów rzędu GB300).

Krok w stronę pełnej niezależności sprzętowej

Przedstawiciele giganta technologicznego potwierdzili, że nowe akceleratory zaczną na dużą skalę masowo zasilać ich własną infrastrukturę obliczeniową jeszcze w trakcie czwartego kwartału tego roku. Zgodnie z polityką przedsiębiorstwa, rozwiązanie nie trafi na tak zwany wolny rynek jako powszechny produkt udostępniany dla zewnętrznych klientów firmowych, ale posłuży wyłącznej obsłudze milionów codziennych użytkowników usług w ramach wewnątrzfirmowej sieci platform.

Inwestycje firmy to mocny wyraz jej zaangażowania w domykanie pełnego pionu technologicznego – tak zwanego full-stacku, na który składa się samodzielny rozwój warstwy software'owej powiązanej bezpośrednio z optymalizowanym lokalnie układem obliczeniowym. W tym samym oświadczeniu OpenAI mocno zasygnalizowało również, że rosnący z dnia na dzień głód na moce obliczeniowe nie pozwala póki co na ograniczenie wsparcia rynkowego. Firma wciąż ma zamiar nabywać i aktywnie uruchamiać akceleratory pochodzące z hal firmy NVIDIA i polegać na asortymencie ich innych stałych partnerów produkcyjnych. Architektura Jalapeño jest zaledwie punktem wejścia w potężny ekosystem – w komunikatach prasowych odnotowano oficjalnie, że układy Gen 2 znajdują się w stanie opisanym jako zaawansowane projektowanie operacyjne, natomiast zaplanowana z mniejszymi szczegółami generacja określana roboczo jako Gen 3 zaczyna dopiero nabierać swych fundamentalnych kształtów konstrukcyjnych.