Халапеньо: Първият AI чип на OpenAI побеждава Nvidia по ефективност – Когато клиентът внезапно се превърне в конкурент – Изображение: Xpert.Digital
22 пъти по-ефективен: Първият вътрешен AI чип на OpenAI значително превъзхожда Nvidia
Спестете енергия, удвоете производителността: Какво означава новият AI чип на OpenAI за индустрията
Изкуственият интелект изгражда AI чипове: „Халапеньо“ на OpenAI превъзхожда конкуренцията за рекордно кратко време
Чип, който напълно пренарежда картите на многомилиардния пазар на изкуствен интелект: С „Jalapeño“, OpenAI разработи първия си вътрешен ускорител за изкуствен интелект за рекордно кратко време – и се изправя срещу най-важния си хардуерен партньор до момента, Nvidia. Първоначалните независими тестове показват, че новият чип се отличава с впечатляваща енергийна ефективност, значително превъзхождайки сегашното поколение Blackwell на Nvidia в определени области. Истинският гениален ход зад това развитие: OpenAI използва свои собствени усъвършенствани модели за изкуствен интелект, за да ускори драстично дизайна на чипа. Какво означава този стратегически ход за вече напрегнатото захранване на центровете за данни, оперативните разходи на ChatGPT и пазарната мощ на Nvidia? Подробен анализ разкрива защо хардуерният дебют на OpenAI е много повече от просто технологично подобрение – той би могъл фундаментално да промени модела на приходи на цялата индустрия.
От клиент до конкурент: OpenAI атакува Nvidia със собствения си чудодеен чип
За по-малко от година и половина OpenAI разработи свой собствен AI чип, който при първоначални независими тестове демонстрира значително по-висока ефективност от настоящия референтен хардуер на Nvidia. Това е забележително, защото OpenAI преди беше един от най-големите отделни клиенти на Nvidia и сега навлиза в сегмент, който е бил почти изключително доминиран от един-единствен доставчик. След като компанията представи първия си собствен AI ускорител с кодово име Jalapeño през юни 2026 г., вече са налични надеждни данни за производителността, събрани от независимата аналитична фирма SemiAnalysis. Тези данни показват, че OpenAI, отчасти благодарение на активната подкрепа на специалиста по полупроводници Broadcom, е разработил високопроизводителен AI чип от нулата, който значително превъзхожда настоящото поколение Blackwell на Nvidia по определени показатели и също така изглежда е добре позициониран спрямо предстоящата платформа Rubin.
Икономическите последици от това развитие трудно могат да бъдат надценени, тъй като то засяга един от централните проблеми с разходите за цялата индустрия с изкуствен интелект: огромното несъответствие между разходите за компютърна инфраструктура и приходите, които могат да бъдат генерирани от услуги, свързани с изкуствен интелект. Според съобщенията, OpenAI изразходва приблизително 3,7 милиарда долара на тримесечие, като разходите за извод – разходите за непрекъснато внедряване на предварително обучени модели в ежедневните операции – представляват най-големия единичен разход. Чип, който значително намалява тези разходи, не само променя технически показател, но и целия модел на приходи на компания, която управлява ChatGPT с над 400 милиона активни потребители.
Независим тестов стенд без свобода на действие
Тестовете бяха проведени с помощта на собствения тестов бенчмарк на SemiAnalysis, InferenceX. Според SemiAnalysis обаче на самите анализатори не беше разрешено да извършват тестовете, нито бяха тествани всички сценарии, нито пък беше използван по-информативният тестов бенчмарк, AgentX. Това ограничение е икономически значимо, защото означава, че макар наличните данни да произхождат от реномирана компания, специализирана в анализ на чипове, те са събрани в рамка, контролирана от OpenAI. Всеки, който желае да базира разумни инвестиционни решения на такива данни, трябва да вземе предвид този контекст, дори ако общата посока на резултатите изглежда правдоподобна.
InferenceX използва моделите на OpenWeights GPT-OSS, DeepSeek R1 и Kimi K2.5, което предполага, че Jalapeño е проектиран не само за собствените модели на OpenAI, но и като обща платформа за извод за други архитектури. Като неофициално доказателство за гъвкавостта на хардуера, SemiAnalysis цитира демонстрацията на разработчиците, че играта Doom, портирана от собствения асистент за програмиране на OpenAI Codex, дори е работила на чипа. Въпреки че подобни демонстрации имат малка икономическа стойност, те показват, че архитектурата не е ограничена до тесен прозорец на приложение, а може да се справи с по-общи изчислителни задачи.
Повишаване на ефективността, което се превръща в парични средства
Резултатите потвърждават особено високата ефективност на Jalapeño. В някои сценарии чипът на OpenAI постига 22 пъти по-висока скорост на токени на ват в сравнение с B300 на Nvidia, изключителен резултат за първия собствен чип на компания без десетилетия опит в полупроводниците. Jalapeño може да се конкурира и с новата система Vera Rubin, която в момента се разпространява сред основните клиенти, въпреки че в момента има малко надеждни данни за това сравнение и окончателната оценка все още предстои.
SemiAnalysis обаче посочва методологични ограничения, които поставят значението на цифрите в перспектива. Тествани са само относително малки размери на промптите с 8192 входни и 1024 изходни токена, докато по-големите промпти, както е често срещано в много приложения за производствени агенти, биха могли значително да променят резултатите. Освен това, тестваната версия работеше на ранен A0 степинг, докато оптимизиран B0 степинг в момента е в производство, за който OpenAI твърди, че ще бъде с около 25 процента по-ефективен. Икономически това означава, че вече впечатляващите цифри вероятно представляват долна, а не горна граница на действителния потенциал, ако се приеме, че съобщенията относно B0 степинга бъдат потвърдени.
Истинското предимство не е в чипа, а в електрическата мрежа
Чипът на OpenAI може дори да бъде по-рентабилен от Vera-Rubin, тъй като системата на Nvidia се възползва от спекулативно декодиране в тестовете, техника за ускоряване на генерирането на текст, докато Jalapeño трябваше да се справи без тази оптимизация. Като цяло, вътрешнофирменото хардуерно извеждане би трябвало да направи OpenAI значително по-евтин, тъй като компанията вече не е нужно да плаща търговски маржове на външен доставчик, а архитектурата може да бъде прецизно пригодена към собствените ѝ модели на обслужване.
Истинското стратегическо предимство обаче не се крие предимно в чистите икономии на разходи за чип, а в енергийната ефективност. Благодарение на повишената ефективност, значително повече чипове могат да работят със същата входна мощност, което представлява истинското конкурентно предимство в индустрия, където наличието на електроенергия и капацитетът за свързване към мрежата се превърнаха в ограничаващ фактор за растеж. Самата OpenAI вече е подписала договори за повече от десет гигавата изчислителен капацитет в САЩ, цел, първоначално поставена за 2029 г., която сега е постигната години по-рано. В среда, където новият капацитет на електроцентралите и мрежовите връзки често представляват истинската пречка за разширяване на центровете за данни, всеки ват, използван по-ефективно, се превръща директно в допълнителна налична изчислителна мощност, без да е необходимо изграждането на допълнителни електроцентрали.
Темпо на развитие, което е предизвикателство за чип индустрията
Времето за разработка на проекта е особено забележително. Според OpenAI, само 16 месеца са изминали между сформирането на екипа за разработка и пускането на чипа в производство – тоест завършването на дизайна за одобрение от производството – като първият пълен дизайн е завършен девет месеца преди пускането в производство. В традиционната полупроводникова индустрия циклите на разработка от три до пет години се считат за стандартни за сравнително сложни чипове, така че подобно темпо, ако се потвърди в бъдещите поколения, би могло да окаже натиск върху установената структура на разходите на цялата индустрия.
Според OpenAI, това е станало възможно благодарение на интензивното използване на собствени системи с изкуствен интелект в самия процес на проектиране. Това е позволило по-бърза оценка на дизайнерските решения и едновременно с това е спомогнало за оптимизиране на изчислителните устройства, като значително е съкратило традиционните итерационни цикли в проектирането на чипове. Това създава самоподсилващ се ефект: колкото по-мощни стават моделите с изкуствен интелект на компанията, толкова по-бързо и по-рентабилно могат да бъдат разработени нови поколения чипове, които след това изпълняват тези модели още по-ефективно. Такъв механизъм за обратна връзка, при условие че се окаже възпроизводим, би могъл да се превърне в структурно предимство за компаниите, които притежават както водещи модели с изкуствен интелект, така и собствени възможности за разработване на чипове.
Когато вашият собствен изкуствен интелект се превърне в инструментариум на инженера
Astra, следващата планирана версия на GPT, вече е използвана в OpenAI за разработване на оптимизирани изчислителни ядра или ядки за нови модели. Според доклади, кодът, разработен от Astra в GPT-OSS, е бил с 50 до 80 процента по-бърз от сравними програми, разработени от екипи от човешки експерти. Това откритие има по-далечни икономически последици, отколкото звучи първоначално, тъй като предполага, че пречката в оптимизацията на софтуера, която досега е зависела до голяма степен от наличието на високоспециализирани инженери, може все повече да бъде разрешена чрез автоматизирани системи.
За полупроводниковата индустрия като цяло това означава потенциално пренареждане на конкурентните фактори. Досега десетилетия опит, задълбочени инженерни познания и установена софтуерна екосистема като CUDA на Nvidia се смятаха за почти непреодолими бариери за навлизане на нови доставчици. Ако инструментите, задвижвани от изкуствен интелект, могат частично да компенсират това предимство от опита, прагът за навлизане на по-нататъшни конкуренти ще намалее, което би могло да доведе до фрагментация на силно концентрирания пазар за ускорители с изкуствен интелект в дългосрочен план.
🎯🎯🎯 B2B индустриален център, базиран на данни, като квази-вътрешно решение
Квази-вътрешно решение: Как Xpert.Digital запълва оперативните пропуски в B2B маркетинга и продажбите – Интелигентен бизнес, управляван от съдържание - Изображение: Xpert.Digital
Xpert.Digital е индустриален център за B2B, базиран на данни, ръководен от Konrad Wolfenstein . Компанията действа като външно, квази-вътрешно решение за индустриални партньори, запълвайки оперативните пропуски в маркетинга, съдържанието и продажбите – без да се изискват допълнителни ресурси от страна на клиента.
Повече информация тук:
Чипът Jalapeno на OpenAI: Защо архитектурата е по-важна от суровата изчислителна мощност
Архитектурата като отчитане на разходите в силиция
OpenAI взе някои интересни и икономически обосновани дизайнерски решения с Jalapeño. Например, матричните модули на чипа не поддържат изчисления, използващи 16-битовия формат FP16 с плаваща запетая, което значително опростява вътрешната логика и е в съответствие с тенденцията в индустрията към по-квантизирани модели, т.е. такива с по-ниска числена точност. 64-битовите и 32-битовите типове данни се поддържат само от допълнителните скаларни и векторни модули, като последните също са ограничени до 32-битови изчисления. Всяка транзисторна площ, спестена чрез пропускане на рядко използвани изчислителни формати, може вместо това да бъде инвестирана в по-голяма пропускателна способност на паметта или повече процесорни ядра за форматите, които действително са необходими, като по този начин се увеличава рентабилността на произведен чип.
По отношение на чистата изчислителна мощност на FP8 и FP4 – числовите формати, особено подходящи за съвременните, квантовани езикови модели – чипът на OpenAI, съответно с 3,4 и 13,4 петаФЛОПС, формално изостава от Blackwell на Nvidia с 5 и 15 петаФЛОПС. Тази привидно неизгодна цифра обаче се смекчава от реалното използване на системата, тъй като чиповете рядко достигат теоретичната си пикова производителност на практика. Според наблюдатели от индустрията, настоящите ускорители често работят само с 30 до 50 процента от теоретичната си ефективност при реални натоварвания, свързани с инференциален извод. Следователно, чип, който се доближава до собствената си пикова производителност, може да остане конкурентоспособен или дори да я надмине на практика, въпреки че суровата му производителност изглежда по-ниска на хартия.
Пропускателна способност на паметта вместо сурова изчислителна мощност като стратегически избор
Чипът е оборудван с шест HBM4 стека памет, което му осигурява почти два пъти по-голяма пропускателна способност на паметта от Blackwell - 15,4 TB в секунда в сравнение с 8 TB в секунда. Това решение отразява умишлено приоритизиране, тъй като при извеждане на модели с голям език, ограничаващият фактор често не е чистата изчислителна мощност, а скоростта, с която теглата на модела и междинните резултати могат да се преместват между паметта и аритметично-логическото устройство (ALU). Чип, който специално адресира това така наречено „тясно място“ в пропускателната способност на паметта, може да работи по-ефективно в реални сценарии на приложения, отколкото конкурент с по-висока номинална изчислителна мощност, но сравнително по-ограничен достъп до паметта.
Благодарение на осемте стека памет, Blackwell и предстоящото поколение Rubin предлагат по-висок общ капацитет на паметта от 288 GB, докато Jalapeño разполага само с 216 GB. За много големи модели със съответно обширни контекстни прозорци, този по-нисък капацитет може да се превърне в ограничаващ фактор, особено ако бъдещите поколения модели са още по-големи и по-интензивни по отношение на паметта. TDP на чипа, или максималната топлинна проектна мощност, е 700 вата, въпреки че OpenAI заявява, че чипът изисква средно само около 550 вата в реална работа. Това е по-икономически значим показател за ежедневните операции в центровете за данни, отколкото теоретичната пикова стойност.
Латентност срещу гъвкавост: съзнателно компромисно решение
Йерархията на паметта на чипа е интересна. OpenAI разделя чипа на множество изчислителни групи или слайсове, всеки с фиксирано разпределение на HBM памет. Тази тясна, фиксирана връзка между процесорното ядро и локалната памет значително намалява латентността на достъпа, тъй като всяка изчислителна група има директен достъп с ниска латентност до собствения си дял от паметта, вместо да се налага да преминава през многостепенна, споделена система от памет, както е при традиционните графични процесори. Цената за това предимство в скоростта е намалената гъвкавост при разпределението на паметта, тъй като капацитетът не може да бъде произволно преразпределен между изчислителните групи, след като даден дял достигне своите граници.
Групите са свързани чрез два отделни мрежови слоя: специализирана, особено нисколатентна колективна мрежа за често повтарящи се, ясно дефинирани комуникационни модели, като например синхронизация по време на паралелна обработка, и по-обща мрежа на чип за друга комуникация и достъп до мрежата от по-високо ниво за мащабиране между множество чипове. Това архитектурно разделение позволява по-голямата част от вътрешния трафик на данни да се обработва по по-бързия, специален път, докато общата мрежа остава запазена само за по-рядки, по-малко критични във времето достъпи. От икономическа гледна точка това е класически компромис между специализация и общо предназначение, типичен за специално създадените чипове за инференциален извод и коренно различен от по-общата архитектура на класическите графични процесори.
Систоличният масив като наследство от философията на TPU
Подобно на много други специализирани ускорители на изкуствен интелект, Jalapeño разчита на систоличен масив, където междинните резултати се предават директно между съседни процесорни единици, вместо постоянно да се колебаят между паметта и аритметично-логическата единица. Тази концепция в никакъв случай не е нова, а следва архитектурна философия, която е успешно тествана на практика от години, по-специално от тензорните процесорни единици на Google, където вече е постигнала сравними подобрения в ефективността при специализирани натоварвания с изкуствен интелект.
За разлика от традиционните дизайни с много големи систолични масиви, Jalapeño, според SemiAnalysis, поддържа и по-малки матрични размери, като по този начин избягва типичните спадове в производителността, които възникват, когато размерите на партидите или матричните размери не съвпадат точно с фиксирания размер на масива. Освен това, чипът разполага със специални 64-битови скаларни ядра, както и векторни модули, съвместими с FP32 и INT32, и използва подход за изпълнение извън реда с класически L1 кеш на всяко процесорно ядро, вместо да разчита на софтуерно контролирана scratchpad памет, както много други ускорители. Тази комбинация от специализиран матричен модул и по-гъвкава скаларна и векторна логика предполага, че OpenAI умишлено е търсил средно положение между чистата специализация и общата програмируемост.
Защо по-ниските разходи не достигат веднага до клиентите
От гледна точка на корпоративните клиенти и разработчици, непосредственият въпрос е дали обещаните подобрения в ефективността ще доведат и до по-ниски цени на API. Според няколко анализатори в индустрията това е доста малко вероятно в краткосрочен план, тъй като OpenAI в момента работи предимно с ограничения в капацитета, а не с ограничения в разходите. Това означава, че по-ниските единични разходи първоначално ще се превърнат в по-голям наличен обем, а не в по-ниски цени. Исторически примери, като например въвеждането на собствени TPU от Google или чиповете Trainium на Amazon, показват, че цените за крайните клиенти обикновено намаляват само 12 до 24 месеца след широкото разпространение на нов собствен хардуер, обикновено предизвикано от засилен конкурентен натиск от страна на конкурентните доставчици.
Освен това, OpenAI първо трябва да възстанови значителните си първоначални инвестиции в дизайн, производство и инфраструктура чрез приходи от инференциални технологии в продължение на няколко тримесечия, преди икономиите на разходи действително да се превърнат в по-високи маржове. Дотогава чипът вероятно ще помогне предимно за облекчаване на съществуващите затруднения в капацитета, като например намаляване на дългите времена на чакане или ограниченията на скоростта при достъп до API, вместо да води до незабавно намаляване на цените. Въпреки това, за компаниите, които създават средносрочни бюджетни планове за използване на услуги с изкуствен интелект, изглежда разумно да се вземе предвид постепенно намаляване на разходите с потенциално 30 до 50 процента за период от две до три години като реалистичен сценарий за планиране.
Конкуренция за пазарна мощ, не само за ватове
По-дълбоката стратегическа причина зад това развитие се крие в борбата за независимост от един-единствен, доминиращ на пазара доставчик. В продължение на години Nvidia контролираше по-голямата част от пазара на хардуер за обучение и извод за изкуствен интелект, като по този начин постигаше значителни брутни маржове, които в крайна сметка трябваше да бъдат поети от клиентите. Ако OpenAI, подобно на Google, Amazon и Microsoft със съответните им програми за чипове, прехвърли значителна част от натоварването си от изводи към собствения си хардуер, договарящата се сила на Nvidia с най-големите си клиенти ще намалее, дори ако Nvidia остане основният партньор за обучение на нови модели.
В този контекст е забележително, че Nvidia едновременно предоставя огромни финансови ангажименти за разширяване на центъра за данни на OpenAI, например чрез многомилиарден заем за нов център за данни в Охайо, докато OpenAI едновременно работи върху собствена, потенциално конкурентна чип платформа. Тази привидно противоречива ситуация може да се тълкува икономически като рационално поведение от страна на двете страни: Nvidia осигурява дългосрочни ангажименти за покупка и капиталови ангажименти от най-големия си отделен клиент, докато OpenAI едновременно развива стратегическа независимост за нарастваща част от натоварването си от инференциални изводи, без да натоварва напълно отношенията си с най-важния си партньор за обучение.
От обявяването до масовото производство
Първоначалните малки доставки на Jalapeño са планирани за края на 2026 г., докато мащабното производство и мащабното внедряване се очаква да се осъществят през 2027 г. Дотогава Nvidia, особено чрез продължаващото използване на своите системи Vera Rubin, ще остане централен компонент на инфраструктурата на OpenAI, което означава, че пълното изоставяне на хардуера на Nvidia не се предвижда. Вместо това се очертава хибриден модел, при който различни поколения хардуер и доставчици се използват паралелно за различни профили на натоварване.
В дългосрочен план истинското значение на Jalapeño вероятно се крие по-малко в специфичните показатели за ефективност на първото поколение, отколкото в демонстрирания темп на развитие и свързаната с него способност за използване на инструменти, задвижвани от изкуствен интелект, за собственото разработване на хардуер. Ако този самоподсилващ се цикъл на по-мощни модели и по-бързи цикли на разработване на чипове се окаже възпроизводим, това не само ще промени конкурентната позиция на OpenAI спрямо Nvidia, но и ще измести коренно времевата рамка, в която могат да се разработват нови поколения полупроводници за приложения с изкуствен интелект.
📈🚀 От видимост до доверие 👀🤝 Вашият мащабируем път с Xpert.Digital
От видимост до доверие: Вашият мащабируем път с Xpert.Digital - Изображение: Xpert.Digital
В индустриалния B2B сектор, устойчивите бизнес взаимоотношения рядко възникват за една нощ. Те се развиват стъпка по стъпка – чрез видимост, професионална релевантност, повтарящи се точки на контакт и нарастващо доверие. 4-етапният модел на Xpert.Digital се справя точно с това: Той предлага структуриран път, който започва с управляема входна точка и може да се развие в по-задълбочено сътрудничество в развитието на бизнеса, ако е необходимо.
Вместо да се разчита на гръмки маркетингови обещания, този модел поставя взаимоотношенията на преден план. Компаниите започват с ясно дефинирани, лесно изчислими мерки и след това решават, въз основа на собствения си опит, докъде искат да разширят сътрудничеството. Ключов фактор за този необезпокояван процес на изграждане на доверие: Платформата напълно избягва досадните реклами, така че редакционният фокус остава единствено върху експертизата на компаниите.
Повече информация тук:
Вашият глобален партньор по маркетинг и бизнес развитие
☑️ Нашият бизнес език е английски или немски
☑️ НОВО: Кореспонденция на родния ви език!
Konrad Wolfenstein
Аз и моят екип с удоволствие ще бъдем на ваше разположение като ваш личен съветник.
Можете да се свържете с мен, като попълните формата за контакт тук wolfenstein@xpert.digital:или просто ми се обадите на +49 7348 4088 965. Моят имейл адрес е
Очаквам с нетърпение нашия съвместен проект.
