▶️ Халапеньо: Първият AI чип на OpenAI побеждава Nvidia по ефективност – Когато клиентът внезапно се превърне в конкурент
OpenAI представя Jalapeño, свой собствен AI чип, който превъзхожда Nvidia по отношение на енергийна ефективност. | Първоначалните тестове показват до 22 пъти по-висока скорост на токени на ват в сравнение с референтния модел на Nvidia. | Дизайнът на чипа беше значително ускорен от инструменти, задвижвани от AI, и беше внедрен за рекордно кратко време. | По-високата енергийна ефективност се изразява в повече мощност за центрове за данни с ограничен мрежов капацитет. | Технически решения като висока пропускателна способност на паметта и систолични масиви оптимизират реалните натоварвания на извода. | | В краткосрочен план е вероятно ползите от разходите да бъдат реализирани чрез увеличен капацитет, а не чрез по-ниски цени на API. | Това развитие измества баланса на силите между OpenAI и Nvidia, намалявайки зависимостите. | | Методологичните ограничения на тестовете изискват предпазливост при тълкуването на цифрите. | В дългосрочен план самоподсилващият се цикъл на AI модели и разработването на чипове може да промени полупроводниковата индустрия. | Jalapeño е по-малко просто чип и по-скоро стратегически лост за ефективност, мащабируемост и пазарна трансформация. [...]
▶️ Научете повече тук


























