Грешка в изчислението от 57 милиарда долара – NVIDIA предупреждава от всички компании: Индустрията за изкуствен интелект е заложила на грешния кон

### Модели с малък език: Ключът към истинската бизнес автономност ### От хиперскалери обратно към потребителите: Промяна на властта в света на изкуствения интелект ### Грешката от 57 милиарда долара: Защо истинската революция в изкуствения интелект не се случва в облака ### Тихата революция в изкуствения интелект: Децентрализирана вместо централизирана ### Технологични гиганти на грешен път: Бъдещето на изкуствения интелект е стройно и локално ### От хиперскалери обратно към потребителите: Промяна на властта в света на изкуствения интелект ###

Милиарди долари пропилени инвестиции: Защо малките модели с изкуствен интелект изпреварват големите

Светът на изкуствения интелект е изправен пред земетресение, чийто магнитуд напомня на корекциите от ерата на дот-ком компаниите. В основата на това сътресение се крие колосална грешка в преценката: докато технологични гиганти като Microsoft, Google и Meta инвестират стотици милиарди в централизирани инфраструктури за масивни езикови модели (Large Language Models, LLM), реалният пазар за тяхното приложение изостава драстично. Революционен анализ, проведен отчасти от самия лидер в индустрията NVIDIA, определя разликата в инвестициите в инфраструктура на 57 милиарда долара в сравнение с реалния пазар от само 5,6 милиарда долара - десетократно несъответствие.

Тази стратегическа грешка произтича от предположението, че бъдещето на ИИ е единствено във все по-големи, по-интензивни от изчислителна гледна точка и централно контролирани модели. Но сега тази парадигма се разпада. Тиха революция, водена от децентрализирани, по-малки езикови модели (Small Language Models, SLM), преобръща установения ред с главата надолу. Тези модели са не само многократно по-евтини и по-ефективни, но и позволяват на компаниите да постигнат нови нива на автономност, суверенитет на данните и гъвкавост – далеч от скъпоструващата зависимост от няколко хиперскалера. Този текст анализира анатомията на тази многомилиардна погрешна инвестиция и демонстрира защо истинската революция в ИИ се случва не в гигантски центрове за данни, а децентрализирано и върху евтин хардуер. Това е историята на фундаментално изместване на властта от доставчиците на инфраструктура обратно към потребителите на технологията.

Свързано с това:

• По-голям от дот-ком балона? Шумът около изкуствения интелект достига ново ниво на ирационалност

Проучване на NVIDIA относно неправилното разпределение на капитала в областта на изкуствения интелект

Данните, които описахте, са от изследователска работа на NVIDIA, публикувана през юни 2025 г. Пълният източник е:

„Моделите с малък език са бъдещето на агентния ИИ“

• Автори: Peter Belcak, Greg Heinrich, Shizhe Diao, Yonggan Fu, Xin Dong, Saurav Muralidharan, Yingyan Celine Lin, Pavlo Molchanov
• Дата на издаване: 2 юни 2025 г. (Версия 1), последна редакция 15 септември 2025 г. (Версия 2)
• Местоположение на публикацията: arXiv:2506.02153 [cs.AI]
• DOI: https://doi.org/10.48550/arXiv.2506.02153
• Официална страница за изследвания на NVIDIA: https://research.nvidia.com/labs/lpr/slm-agents/

Ключовото послание относно неправилното разпределение на капитала

Изследването документира фундаментално несъответствие между инвестициите в инфраструктура и действителния обем на пазара: През 2024 г. индустрията инвестира 57 милиарда долара в облачна инфраструктура за поддръжка на услуги за API на големи езикови модели (LLM), докато действителният пазар за тези услуги е бил само 5,6 милиарда долара. Това несъответствие десет към едно се интерпретира в проучването като индикация за стратегическа грешка, тъй като индустрията инвестира сериозно в централизирана инфраструктура за мащабни модели, въпреки че 40-70% от настоящите LLM натоварвания биха могли да бъдат заменени от по-малки, специализирани модели на малки езици (SLM) на 1/30 от цената.

Изследователски контекст и авторство

Това проучване е позиционен документ на Изследователската група за ефективност на дълбокото обучение в NVIDIA Research. Водещият автор Питър Белчак е изследовател на изкуствен интелект в NVIDIA, фокусиран върху надеждността и ефективността на агентно-базираните системи. Документът се основава на три основни принципа:

SLM са

1. достатъчно мощен
2. хирургически подходящ и
3. икономически необходимо

за много случаи на употреба в агентни системи с изкуствен интелект.

Изследователите изрично подчертават, че изразените в тази статия мнения са на авторите и не отразяват непременно позицията на NVIDIA като компания. NVIDIA кани критична дискусия и се ангажира да публикува всякаква свързана кореспонденция на придружаващия уебсайт.

Защо децентрализираните модели с малки езици правят залога на централизираната инфраструктура остарял

Изкуственият интелект е в повратна точка, чиито последици напомнят на сътресенията на дот-ком балона. Изследователска работа на NVIDIA разкри фундаментално неправилно разпределение на капитала, което разклаща основите на настоящата ѝ стратегия за изкуствен интелект. Докато технологичната индустрия инвестира 57 милиарда долара в централизирана инфраструктура за мащабни езикови модели, реалният пазар за тяхното използване нарасна до едва 5,6 милиарда долара. Това несъответствие десет към едно не само показва надценяване на търсенето, но и разкрива фундаментална стратегическа грешка по отношение на бъдещето на изкуствения интелект.

Лоша инвестиция? Милиарди, похарчени за инфраструктура с изкуствен интелект — какво да правим с излишния капацитет?

Числата говорят сами за себе си. През 2024 г. глобалните разходи за инфраструктура с изкуствен интелект достигнаха между 80 и 87 милиарда долара, според различни анализи, като по-голямата част от тях се падат на центрове за данни и ускорители. Microsoft обяви инвестиции от 80 милиарда долара за фискалната 2025 година, Google повиши прогнозата си до между 91 и 93 милиарда долара, а Meta планира да инвестира до 70 милиарда долара. Само тези три хиперскалера представляват инвестиционен обем от над 240 милиарда долара. Общите разходи за инфраструктура с изкуствен интелект биха могли да достигнат между 3,7 и 7,9 трилиона долара до 2030 г., според оценки на McKinsey.

За разлика от това, реалността от страна на търсенето е отрезвяваща. Пазарът на модели за големи езикови програми за предприятия (Enterprise Large Language Models) беше оценен само на 4 до 6,7 милиарда долара за 2024 г., като прогнозите за 2025 г. варират от 4,8 до 8 милиарда долара. Дори най-щедрите оценки за пазара на генеративен изкуствен интелект като цяло са между 28 и 44 милиарда долара за 2024 г. Фундаменталното несъответствие е ясно: инфраструктурата е изградена за пазар, който не съществува в тази форма и обхват.

Тази погрешна инвестиция произтича от предположение, което все повече се оказва невярно: че бъдещето на изкуствения интелект е във все по-големи, централизирани модели. Хиперскалерите следваха стратегия за масово мащабиране, водени от убеждението, че броят на параметрите и изчислителната мощност са решаващите конкурентни фактори. GPT-3, със 175 милиарда параметъра, се смяташе за пробив през 2020 г., а GPT-4, с над трилион параметъра, постави нови стандарти. Индустрията сляпо следваше тази логика и инвестира в инфраструктура, проектирана за нуждите на модели, които са прекалено големи за повечето случаи на употреба.

Структурата на инвестициите ясно илюстрира неправилното разпределение. През второто тримесечие на 2025 г. 98% от 82-те милиарда долара, похарчени за инфраструктура с изкуствен интелект, са отишли ​​за сървъри, като 91,8% от тях са за системи с GPU и XPU ускорение. Хиперскалерите и разработчиците на облачни услуги са абсорбирали 86,7% от тези разходи, приблизително 71 милиарда долара за едно тримесечие. Тази концентрация на капитал във високоспециализиран, изключително енергоемък хардуер за обучение и извеждане на масивни модели игнорира фундаментална икономическа реалност: повечето корпоративни приложения не изискват този капацитет.

Парадигмата се разпада: От централизирано към децентрализирано

Самата NVIDIA, основният бенефициент от скорошния бум на инфраструктурата, сега предоставя анализа, който оспорва тази парадигма. Изследванията върху моделите с малък език като бъдещето на агентно-базирания изкуствен интелект твърдят, че моделите с по-малко от 10 милиарда параметъра са не само достатъчни, но и оперативно превъзхождащи за по-голямата част от приложенията с изкуствен интелект. Проучването на три големи агентни системи с отворен код разкри, че от 40 до 70 процента от повикванията към модели с голям език могат да бъдат заменени от специализирани модели с малък език без загуба на производителност.

Тези открития разклащат фундаменталните предположения на съществуващата инвестиционна стратегия. Ако MetaGPT може да замени 60% от своите LLM извиквания, Open Operator 40% и Cradle 70% със SLM, тогава е изграден инфраструктурен капацитет за изисквания, които не съществуват в този мащаб. Икономическата ситуация се променя драстично: Llama 3.1B Small Language Model струва десет до тридесет пъти по-малко за експлоатация от по-големия му аналог, Llama 3.3 405B. Фината настройка може да се извърши за няколко часа на GPU вместо за седмици. Много SLM работят на потребителски хардуер, което напълно елиминира зависимостите от облака.

Стратегическата промяна е фундаментална. Контролът се измества от доставчиците на инфраструктура към операторите. Докато предишната архитектура принуждаваше компаниите да бъдат зависими от няколко хиперскалера, децентрализацията чрез SLM позволява нова автономност. Моделите могат да се управляват локално, данните остават в компанията, разходите за API се елиминират и се нарушава обвързаността с доставчика. Това не е просто технологична трансформация, а трансформация на властовата политика.

Предишният залог върху централизирани широкомащабни модели се основаваше на предположението за експоненциални ефекти на мащабиране. Емпиричните данни обаче все повече противоречат на това. Microsoft Phi-3, със 7 милиарда параметъра, постига производителност при генериране на код, сравнима с модели със 70 милиарда параметъра. NVIDIA Nemotron Nano 2, с 9 милиарда параметъра, превъзхожда Qwen3-8B в тестове за разсъждение с шест пъти по-голяма пропускателна способност. Ефективността на параметър се увеличава при по-малките модели, докато големите модели често активират само част от параметрите си за даден вход – присъща неефективност.

Икономическото превъзходство на моделите с малък език

Структурата на разходите разкрива икономическата реалност с брутална яснота. Обучението на модели от клас GPT-4 се оценява на над 100 милиона долара, като Gemini Ultra потенциално струва 191 милиона долара. Дори фината настройка на големи модели за специфични области може да струва десетки хиляди долари във време, използвано от графичен процесор. За разлика от това, SLM могат да бъдат обучени и фино настроени само за няколко хиляди долара, често на един висок клас графичен процесор.

Разходите за извод разкриват още по-драстични разлики. GPT-4 струва приблизително $0,03 на 1000 входни токена и $0,06 на 1000 изходни токена, което прави общо $0,09 на средна заявка. Mistral 7B, като пример за SLM, струва $0,0001 на 1000 входни токена и $0,0003 на 1000 изходни токена, или $0,0004 на заявка. Това представлява намаление на разходите с коефициент 225. При милиони заявки тази разлика се натрупва до значителни суми, които пряко влияят върху рентабилността.

Общите разходи за притежание разкриват допълнителни измерения. Самостоятелното хостване на модел със 7 милиарда параметъра на сървъри без графични процесори L40S струва приблизително 953 долара на месец. Фината настройка в облак с AWS SageMaker на инстанции g5.2xlarge струва 1,32 долара на час, като потенциалните разходи за обучение започват от 13 долара за по-малки модели. 24/7 внедряването на inference би струвало приблизително 950 долара на месец. В сравнение с разходите за API за непрекъсната употреба на големи модели, които лесно могат да достигнат десетки хиляди долари на месец, икономическото предимство става ясно.

Скоростта на внедряване е често подценяван икономически фактор. Докато фината настройка на голям езиков модел (SLM) може да отнеме седмици, SLM-овете са готови за употреба за часове или няколко дни. Гъвкавостта за бързо реагиране на нови изисквания, добавяне на нови възможности или адаптиране на поведение се превръща в конкурентно предимство. На бързо развиващите се пазари тази времева разлика може да бъде разликата между успеха и провала.

Икономиката на мащаба се обръща. Традиционно икономиите от мащаба се разглеждаха като предимство на хиперскалерите, които поддържат огромни капацитети и ги разпределят между много клиенти. С SLM обаче, дори по-малките организации могат да се мащабират ефективно, защото хардуерните изисквания са драстично по-ниски. Стартъп може да изгради специализиран SLM с ограничен бюджет, който превъзхожда голям, универсален модел за специфичната си задача. Демократизацията на разработването на ИИ се превръща в икономическа реалност.

Технически основи на прекъсването

Технологичните иновации, които дават възможност за SLM, са също толкова значими, колкото и техните икономически последици. Дестилацията на знания, техника, при която по-малък модел на ученик абсорбира знанията на по-голям модел на учител, се е доказала като високоефективна. DistilBERT успешно компресира BERT, а TinyBERT следва подобни принципи. Съвременните подходи дестилират възможностите на големи генеративни модели като GPT-3 в значително по-малки версии, които демонстрират сравнима или по-добра производителност при специфични задачи.

Процесът използва както меките етикети (вероятностни разпределения) на учителския модел, така и твърдите етикети на оригиналните данни. Тази комбинация позволява на по-малкия модел да улови нюансирани модели, които биха се загубили в прости двойки вход-изход. Усъвършенстваните техники за дестилация, като например стъпка по стъпка дестилация, показват, че малките модели могат да постигнат по-добри резултати от LLM, дори с по-малко данни за обучение. Това коренно променя икономиката: вместо скъпи и продължителни обучителни цикли на хиляди графични процесори, са достатъчни целенасочени процеси на дестилация.

Квантирането намалява прецизността на численото представяне на теглата на модела. Вместо 32-битови или 16-битови числа с плаваща запетая, квантуваните модели използват 8-битови или дори 4-битови целочислени представяния. Изискванията за памет намаляват пропорционално, скоростта на извод се увеличава и консумацията на енергия спада. Съвременните техники за квантуване минимизират загубата на точност, често оставяйки производителността практически непроменена. Това позволява внедряване на периферни устройства, смартфони и вградени системи, което би било невъзможно с напълно прецизни големи модели.

Подрязването премахва излишните връзки и параметри от невронните мрежи. Подобно на редактирането на прекалено дълъг текст, несъществените елементи се идентифицират и елиминират. Структурираното подрязване премахва цели неврони или слоеве, докато неструктурираното подрязване премахва отделни тегла. Получената мрежова структура е по-ефективна, изисква по-малко памет и процесорна мощност, но запазва основните си възможности. В комбинация с други техники за компресия, подрязаните модели постигат впечатляващи подобрения в ефективността.

Факторизацията с нисък ранг разлага матрици с голямо тегло на произведения на по-малки матрици. Вместо една единствена матрица с милиони елементи, системата съхранява и обработва две значително по-малки матрици. Математическата операция остава приблизително същата, но изчислителните усилия са драстично намалени. Тази техника е особено ефективна в трансформаторни архитектури, където механизмите за внимание доминират умноженията на големи матрици. Спестяването на памет позволява по-големи контекстни прозорци или размери на партиди със същия хардуерен бюджет.

Комбинацията от тези техники в съвременни SLM системи, като серията Microsoft Phi, Google Gemma или NVIDIA Nemotron, демонстрира потенциала. Phi-2, само с 2,7 милиарда параметъра, превъзхожда моделите Mistral и Llama-2 със съответно 7 и 13 милиарда параметъра в агрегирани бенчмаркове и постига по-добра производителност от 25 пъти по-големия Llama-2-70B в задачи за многоетапно разсъждение. Това беше постигнато чрез стратегически подбор на данни, генериране на висококачествени синтетични данни и иновативни техники за мащабиране. Посланието е ясно: размерът вече не е показател за способността.

Пазарна динамика и потенциал за заместване

Емпирични открития от реални приложения подкрепят теоретичните съображения. Анализът на NVIDIA на MetaGPT, рамка за разработка на софтуер с множество агенти, установи, че приблизително 60 процента от заявките за LLM са заменими. Тези задачи включват генериране на шаблонен код, създаване на документация и структуриран изход – всички области, в които специализираните SLM се представят по-бързо и по-рентабилно от широкомащабните модели с общо предназначение.

Open Operator, система за автоматизация на работни процеси, демонстрира със своя 40-процентов потенциал за заместване, че дори в сложни сценарии на оркестрация, много подзадачи не изискват пълния капацитет на LLM. Разборът на намерения, изходът, базиран на шаблони, и решенията за маршрутизиране могат да се обработват по-ефективно чрез фино настроени, малки модели. Останалите 60 процента, които всъщност изискват задълбочено разсъждение или широки познания за света, оправдават използването на големи модели.

Cradle, система за автоматизация на графичен потребителски интерфейс (GUI), показва най-висок потенциал за заместване от 70 процента. Повтарящите се взаимодействия с потребителски интерфейс, поредици от кликвания и въвеждане на формуляри са идеално подходящи за SLM (системи за последователно използване на ресурсен ресурс). Задачите са тясно дефинирани, променливостта е ограничена, а изискванията за контекстуално разбиране са ниски. Специализиран модел, обучен върху взаимодействия с графичен потребителски интерфейс, превъзхожда универсален LLM по скорост, надеждност и цена.

Тези модели се повтарят в различните области на приложение. Чатботове за обслужване на клиенти за ЧЗВ, класификация на документи, анализ на настроения, разпознаване на именувани обекти, прости преводи, заявки към бази данни на естествен език – всички тези задачи се възползват от SLM (системи за слажен мониторинг). Едно проучване изчислява, че при типичните внедрявания на ИИ в предприятия, 60 до 80 процента от заявките попадат в категории, за които SLM са достатъчни. Последиците за търсенето на инфраструктура са значителни.

Концепцията за маршрутизиране на моделите придобива все по-голямо значение. Интелигентните системи анализират входящите заявки и ги насочват към подходящия модел. Простите заявки отиват към рентабилни SLM, докато сложните задачи се обработват от високопроизводителни LLM. Този хибриден подход оптимизира баланса между качество и цена. Ранните внедрявания отчитат икономии на разходи до 75 процента със същата или дори по-добра обща производителност. Самата логика на маршрутизиране може да бъде малък модел за машинно обучение, който отчита сложността на заявките, контекста и предпочитанията на потребителя.

Разпространението на платформи за фина настройка като услуга ускорява приемането им. Компаниите без задълбочени познания в машинното обучение могат да изградят специализирани SLM, които включват техните собствени данни и специфики на домейна. Инвестицията във време се намалява от месеци на дни, а цената - от стотици хиляди долари на хиляди. Тази достъпност фундаментално демократизира иновациите в областта на изкуствения интелект и измества създаването на стойност от доставчиците на инфраструктура към разработчиците на приложения.

Ново измерение на дигиталната трансформация с „Управляван ИИ“ (изкуствен интелект) – платформа и B2B решение | Xpert Consulting - Изображение: Xpert.Digital

Тук ще научите как вашата компания може да внедри персонализирани решения с изкуствен интелект бързо, сигурно и без високи бариери за навлизане.

Управляваната AI платформа е вашето цялостно и безпроблемно решение за изкуствен интелект. Вместо да се занимавате със сложни технологии, скъпа инфраструктура и продължителни процеси на разработка, вие получавате готово решение, съобразено с вашите нужди, от специализиран партньор – често само в рамките на няколко дни.

Ключовите предимства накратко:

⚡ Бързо внедряване: От идея до готово за употреба приложение за дни, а не за месеци. Ние предлагаме практични решения, които създават незабавна добавена стойност.

🔒 Максимална сигурност на данните: Вашите чувствителни данни остават при вас. Гарантираме сигурна и съвместима обработка без споделяне на данни с трети страни.

💸 Без финансов риск: Плащате само за резултати. Високите първоначални инвестиции в хардуер, софтуер или персонал са напълно елиминирани.

🎯 Фокусирайте се върху основния си бизнес: Концентрирайте се върху това, което правите най-добре. Ние се грижим за цялостното техническо внедряване, експлоатация и поддръжка на вашето AI решение.

📈 Готов за бъдещето и мащабируем: Вашият изкуствен интелект расте с вас. Ние гарантираме непрекъсната оптимизация и мащабируемост и гъвкаво адаптираме моделите към новите изисквания.

Повече информация тук:

• Управляваното решение с изкуствен интелект - Индустриални услуги с изкуствен интелект: Ключът към конкурентоспособността в секторите на услугите, промишлеността и машиностроенето

Скритите разходи на централизираните архитектури

Фокусирането единствено върху разходите за директни изчисления подценява общата цена на централизираните LLM архитектури. API зависимостите създават структурни недостатъци. Всяка заявка генерира разходи, които се мащабират с употребата. За успешни приложения с милиони потребители, API таксите се превръщат в доминиращ фактор на разходите, ерозирайки маржовете. Компаниите са хванати в капан в структура на разходите, която расте пропорционално на успеха, без съответстващи икономии от мащаба.

Нестабилността на цените на доставчиците на API представлява бизнес риск. Увеличенията на цените, ограниченията на квотите или промените в условията за ползване могат да унищожат рентабилността на приложението за една нощ. Наскоро обявените ограничения на капацитета от страна на големите доставчици, които принуждават потребителите да разпределят ресурсите си, илюстрират уязвимостта на тази зависимост. Специализираните SLM елиминират този риск изцяло.

Суверенитетът на данните и съответствието с тях придобиват все по-голямо значение. GDPR в Европа, сравнимите регулации в световен мащаб и нарастващите изисквания за локализиране на данни създават сложни правни рамки. Изпращането на чувствителни корпоративни данни към външни API, които могат да работят в чуждестранни юрисдикции, носи регулаторни и правни рискове. Секторите здравеопазване, финанси и правителството често имат строги изисквания, които изключват или силно ограничават използването на външни API. Локалните SLM решават фундаментално тези проблеми.

Опасенията за интелектуална собственост са реални. Всяка заявка, изпратена до доставчик на API, потенциално разкрива защитена информация. Бизнес логика, разработка на продукти, информация за клиентите – всичко това теоретично би могло да бъде извлечено и използвано от доставчика. Договорните клаузи предлагат ограничена защита срещу случайни изтичания или злонамерени лица. Единственото наистина сигурно решение е никога да не се екстернализират данни.

Закъснението и надеждността страдат поради мрежовите зависимости. Всяка заявка към облачен API преминава през интернет инфраструктура, подложен на мрежово трептене, загуба на пакети и променливи времена за двупосочно предаване. За приложения в реално време, като например разговорен изкуствен интелект или системи за управление, тези закъснения са неприемливи. Локалните SLM отговарят за милисекунди вместо за секунди, независимо от мрежовите условия. Потребителското изживяване е значително подобрено.

Стратегическата зависимост от няколко хиперскалера концентрира властта и създава системни рискове. AWS, Microsoft Azure, Google Cloud и няколко други доминират пазара. Прекъсванията на тези услуги имат каскадни ефекти върху хиляди зависими приложения. Илюзията за излишък изчезва, когато се има предвид, че повечето алтернативни услуги в крайна сметка разчитат на един и същ ограничен набор от доставчици на модели. Истинската устойчивост изисква диверсификация, в идеалния случай включваща вътрешен капацитет.

Свързано с това:

• Кое е по-добро: Децентрализирана, федеративна, антикрехка AI инфраструктура или AI Gigafactory или хипермащабируем AI център за данни?

Edge computing като стратегически повратен момент

Сближаването на SLM и edge computing създава трансформативна динамика. Разгръщането на edge computing пренася изчисленията там, откъдето произхождат данните – IoT сензори, мобилни устройства, индустриални контролери и превозни средства. Намаляването на латентността е драматично: от секунди на милисекунди, от облачния обмен до локалната обработка. За автономни системи, добавена реалност, индустриална автоматизация и медицински устройства това е не само желателно, но и от съществено значение.

Спестяванията на честотна лента са значителни. Вместо непрекъснати потоци от данни към облака, където те се обработват и резултатите се изпращат обратно, обработката се извършва локално. Предава се само релевантна, обобщена информация. В сценарии с хиляди периферни устройства това намалява мрежовия трафик с порядъци. Разходите за инфраструктура намаляват, избягва се претоварването на мрежата и се увеличава надеждността.

Поверителността е по своята същност защитена. Данните вече не напускат устройството. Записи от камери, аудио записи, биометрична информация, данни за местоположение – всичко това може да се обработва локално, без да достига до централни сървъри. Това решава основните проблеми, свързани с поверителността, породени от облачните решения с изкуствен интелект. За потребителските приложения това се превръща в диференциращ фактор; за регулираните индустрии се превръща в изискване.

Енергийната ефективност се подобрява на много нива. Специализираните чипове с изкуствен интелект, оптимизирани за извеждане на малки модели, консумират малка част от енергията на графичните процесори в центровете за данни. Елиминирането на предаването на данни спестява енергия в мрежовата инфраструктура. За устройствата, захранвани от батерии, това се превръща в основна функция. Смартфоните, носимите устройства, дроновете и IoT сензорите могат да изпълняват функции на изкуствен интелект, без драстично да влияят на живота на батерията.

Офлайн възможностите създават стабилност. Edge AI работи и без интернет връзка. Функционалността се поддържа в отдалечени региони, критична инфраструктура или при бедствени ситуации. Тази независимост от наличността на мрежата е от съществено значение за много приложения. Автономното превозно средство не може да разчита на облачна свързаност, а медицинско устройство не трябва да се поврежда поради нестабилен Wi-Fi.

Моделите на разходите се изместват от оперативни към капиталови разходи. Вместо непрекъснати разходи за облак, има еднократна инвестиция в edge хардуер. Това става икономически привлекателно за дълготрайни приложения с голям обем. Предвидимите разходи подобряват бюджетното планиране и намаляват финансовите рискове. Компаниите си възвръщат контрола върху разходите си за AI инфраструктура.

Примерите демонстрират потенциала. NVIDIA ChatRTX позволява локално LLM извеждане на потребителски графични процесори. Apple интегрира изкуствен интелект на устройството в iPhone и iPad, като по-малките модели работят директно на устройството. Qualcomm разработва NPU за смартфони, специално за периферен изкуствен интелект. Google Coral и подобни платформи са насочени към IoT и индустриални приложения. Пазарната динамика показва ясна тенденция към децентрализация.

Хетерогенните архитектури на изкуствения интелект като бъдещ модел

Бъдещето не е в абсолютната децентрализация, а в интелигентните хибридни архитектури. Хетерогенните системи комбинират периферни SLM за рутинни, чувствителни към латентност задачи с облачни LLM за сложни изисквания за разсъждение. Тази допълняемост максимизира ефективността, като същевременно запазва гъвкавостта и възможностите.

Системната архитектура се състои от няколко слоя. На периферния слой, високо оптимизирани SLM системи осигуряват незабавни отговори. Очаква се те да обработват автономно 60 до 80 процента от заявките. За двусмислени или сложни заявки, които не отговарят на локалните прагове на доверие, се извършва ескалация към слоя за мъгливи изчисления – регионални сървъри със средноразмерни модели. Само наистина трудни случаи достигат до централната облачна инфраструктура с големи модели с общо предназначение.

Моделното маршрутизиране се превръща в критичен компонент. Рутерите, базирани на машинно обучение, анализират характеристиките на заявките: дължина на текста, индикатори за сложност, сигнали от домейна и история на потребителите. Въз основа на тези характеристики заявката се присвоява на съответния модел. Съвременните рутери постигат над 95% точност при оценката на сложността. Те непрекъснато оптимизират въз основа на действителната производителност и компромисите между цена и качество.

Механизмите за кръстосано внимание в усъвършенстваните системи за маршрутизация моделират изрично взаимодействията между заявки и модели. Това позволява нюансирани решения: Достатъчен ли е Mistral-7B или е необходим GPT-4? Може ли Phi-3 да се справи с това или е необходим Claude? Фино-зърнестият характер на тези решения, умножен по милиони заявки, генерира значителни икономии на разходи, като същевременно поддържа или подобрява удовлетвореността на потребителите.

Характеризирането на работното натоварване е от основно значение. Агентните системи с изкуствен интелект се състоят от оркестрация, разсъждения, извиквания на инструменти, операции с паметта и генериране на изходни данни. Не всички компоненти изискват един и същ изчислителен капацитет. Оркестрацията и извикванията на инструменти често са базирани на правила или изискват минимален интелект – идеални за SLM (системи за линейно управление на материала). Разсъжденията могат да бъдат хибридни: прости изводи върху SLM, сложни многостъпкови разсъждения върху LLM. Генерирането на изходни данни за шаблони използва SLM, а генерирането на креативен текст използва LLM.

Оптимизацията на общата цена на притежание (TCO) отчита хетерогенността на хардуера. Висококачествените H100 графични процесори се използват за критични LLM натоварвания, среднокачествените A100 или L40S за модели от среден клас, а рентабилните T4 или оптимизирани за инференциален извод чипове за SLM. Тази гранулираност позволява прецизно съпоставяне на изискванията за работно натоварване с хардуерните възможности. Първоначалните проучвания показват намаление на TCO от 40 до 60 процента в сравнение с хомогенните внедрявания от висок клас.

Оркестрацията изисква сложни софтуерни стекове. Системите за управление на клъстери, базирани на Kubernetes, допълнени от специфични за изкуствения интелект планировчици, които разбират характеристиките на модела, са от съществено значение. Балансирането на натоварването отчита не само заявките в секунда, но и дължината на токените, обема на паметта на модела и целевите нива на латентност. Автоматичното мащабиране реагира на моделите на търсене, като предоставя допълнителен капацитет или намалява капацитета по време на периоди на ниско натоварване.

Устойчивост и енергийна ефективност

Въздействието на инфраструктурата с изкуствен интелект върху околната среда се превръща в централен проблем. Обучението на един-единствен голям езиков модел може да консумира толкова енергия, колкото един малък град за една година. Центровете за данни, работещи с ИИ, биха могли да представляват от 20 до 27 процента от световното търсене на енергия за центрове за данни до 2028 г. Прогнозите сочат, че до 2030 г. центровете за данни с ИИ биха могли да изискват 8 гигавата за отделни обучителни цикли. Въглеродният отпечатък ще бъде сравним с този на авиационната индустрия.

Енергийната интензивност на големите модели се увеличава непропорционално. Консумацията на енергия от графичните процесори се е удвоила от 400 на над 1000 вата за три години. Системите NVIDIA GB300 NVL72, въпреки иновативната технология за изглаждане на мощността, която намалява пиковото натоварване с 30 процента, изискват огромни количества енергия. Охладителната инфраструктура добавя още 30 до 40 процента към енергийните нужди. Общите емисии на CO2 от инфраструктурата с изкуствен интелект биха могли да се увеличат с 220 милиона тона до 2030 г., дори при оптимистични предположения за декарбонизация на мрежата.

Моделите с малък език (SLM) предлагат фундаментални подобрения в ефективността. Обучението изисква от 30 до 40 процента от изчислителната мощност на сравними LLM. Обучението по BERT струва приблизително 10 000 евро, в сравнение със стотици милиони за модели от клас GPT-4. Енергията, необходима за извод, е пропорционално по-ниска. Една SLM заявка може да консумира от 100 до 1000 пъти по-малко енергия от една LLM заявка. При милиони заявки това води до огромни икономии.

Крайните изчисления усилват тези предимства. Локалната обработка елиминира енергията, необходима за предаване на данни през мрежи и опорна инфраструктура. Специализираните чипове с изкуствен интелект на периферията постигат коефициенти на енергийна ефективност с порядъци по-добри от графичните процесори в центровете за данни. Смартфоните и IoT устройствата с миливатови NPU вместо стотици ватове сървъри илюстрират разликата в мащаба.

Използването на възобновяема енергия се превръща в приоритет. Google е поела ангажимент за 100% безвъглеродна енергия до 2030 г., а Microsoft – за отрицателни въглеродни емисии. Въпреки това, огромният мащаб на търсенето на енергия представлява предизвикателства. Дори при възобновяемите източници, въпросът за капацитета на мрежата, съхранението и прекъсванията остава. SLM (системите за управление на енергията) намаляват абсолютното търсене, което прави прехода към зелен изкуствен интелект по-осъществим.

Въглеродно-осъзнатите изчисления оптимизират планирането на работното натоварване въз основа на въглеродния интензитет на мрежата. Обучителните цикли започват, когато делът на възобновяемата енергия в мрежата е максимален. Заявките за извод се насочват към региони с по-чиста енергия. Тази времева и географска гъвкавост, съчетана с ефективността на SLM, би могла да намали емисиите на CO2 с 50 до 70 процента.

Регулаторният пейзаж става все по-строг. Законът на ЕС за изкуствения интелект включва задължителни оценки на въздействието върху околната среда за определени системи с изкуствен интелект. Отчитането на въглеродните емисии се превръща в стандарт. Компаниите с неефективна, енергоемка инфраструктура рискуват проблеми със съответствието и щети за репутацията. Въвеждането на SLM и периферни изчисления се развива от приятно допълнение към необходимост.

Демократизация срещу концентрация

Минали развития концентрираха силата на изкуствения интелект в ръцете на няколко ключови играчи. Великолепната седморка – Microsoft, Google, Meta, Amazon, Apple, NVIDIA и Tesla – доминират. Тези хиперскалери контролират инфраструктурата, моделите и все повече цялата верига за създаване на стойност. Тяхната комбинирана пазарна капитализация надхвърля 15 трилиона долара. Те представляват почти 35% от пазарната капитализация на S&P 500, риск от концентрация с безпрецедентно историческо значение.

Тази концентрация има системни последици. Няколко компании определят стандарти, дефинират API и контролират достъпа. По-малките играчи и развиващите се страни стават зависими. Цифровият суверенитет на нациите е оспорван. Европа, Азия и Латинска Америка реагират с национални стратегии за изкуствен интелект, но доминирането на хиперскалерите, базирани в САЩ, остава огромно.

Моделите с малък език (SLM) и децентрализацията променят тази динамика. SLM с отворен код, като Phi-3, Gemma, Mistral и Llama, демократизират достъпа до най-съвременни технологии. Университети, стартиращи компании и средни предприятия могат да разработват конкурентни приложения без ресурси за хипермащабиране. Иновационната бариера е драстично намалена. Малък екип може да създаде специализиран SLM, който превъзхожда Google или Microsoft в своята ниша.

Икономическата жизнеспособност се измества в полза на по-малките играчи. Докато разработването на LLM изисква бюджети от стотици милиони, SLM са осъществими с пет- до шестцифрени суми. Демократизацията на облака позволява достъп до инфраструктура за обучение при поискване. Фината настройка на услугите абстрахира сложността. Бариерата за навлизане на иновации в областта на изкуствения интелект намалява от непосилно висока до управляема.

Суверенитетът на данните става реалност. Компаниите и правителствата могат да хостват модели, които никога не достигат до външни сървъри. Чувствителните данни остават под техен контрол. Спазването на GDPR е опростено. Законът на ЕС за изкуствения интелект, който налага строги изисквания за прозрачност и отчетност, става по-лесно управляем със собствени модели, вместо с „черни кутии“ API.

Разнообразието в иновациите се увеличава. Вместо монокултура от модели, подобни на GPT, се появяват хиляди специализирани SLM за специфични области, езици и задачи. Това разнообразие е устойчиво на систематични грешки, увеличава конкуренцията и ускорява напредъка. Иновационният пейзаж става полицентричен, а не йерархичен.

Рисковете от концентрация стават очевидни. Зависимостта от няколко доставчици създава единични точки на отказ. Прекъсванията в AWS или Azure парализират глобалните услуги. Политическите решения на хиперскалер, като например ограничения за използване или регионални блокировки, имат каскадни ефекти. Децентрализацията чрез SLM фундаментално намалява тези системни рискове.

Стратегическото пренасочване

За компаниите този анализ предполага фундаментални стратегически корекции. Инвестиционните приоритети се изместват от централизирана облачна инфраструктура към хетерогенни, разпределени архитектури. Вместо максимална зависимост от хиперскалерни API, целта е автономност чрез вътрешни SLM. Развитието на уменията се фокусира върху фина настройка на моделите, внедряване на периферни устройства и хибридна оркестрация.

Решението „изграждане“ срещу „купуване“ се променя. Докато преди закупуването на API достъп се смяташе за рационално, разработването на вътрешни, специализирани SLM системи става все по-привлекателно. Общата цена на притежание за период от три до пет години очевидно е в полза на вътрешните модели. Стратегическият контрол, сигурността на данните и адаптивността добавят допълнителни качествени предимства.

За инвеститорите това неправилно разпределение сигнализира за предпазливост по отношение на чисто инфраструктурните проекти. Инвеститорите в центрове за данни с недвижими имоти (REIT), производителите на графични процесори и хиперскалаторите биха могли да се сблъскат със свръхкапацитет и намаляващо използване, ако търсенето не се материализира според прогнозите. Миграция на стойността се осъществява към доставчици на SLM технологии, edge AI чипове, софтуер за оркестрация и специализирани AI приложения.

Геополитическото измерение е важно. Държавите, които дават приоритет на националния суверенитет върху изкуствения интелект, се възползват от промяната в SLM. Китай инвестира 138 милиарда долара в местни технологии, а Европа инвестира 200 милиарда долара в InvestAI. Тези инвестиции ще бъдат по-ефективни, когато абсолютният мащаб вече не е решаващият фактор, а по-скоро интелигентни, ефикасни и специализирани решения. Многополюсният свят на изкуствения интелект се превръща в реалност.

Регулаторната рамка се развива паралелно. Защита на данните, алгоритмична отчетност, екологични стандарти – всичко това е в полза на децентрализирани, прозрачни и ефикасни системи. Компаниите, които внедряват SLM и периферни изчисления рано, се позиционират благоприятно за спазване на бъдещите регулации.

Пейзажът на талантите се трансформира. Докато преди само елитни университети и водещи технологични компании имаха ресурси за изследвания в областта на правото по право (LLM), сега почти всяка организация може да разработва SLM. Недостигът на квалифицирани кадри, който възпрепятства 87% от организациите да наемат специалисти с изкуствен интелект, се смекчава от по-ниска сложност и по-добри инструменти. Повишаването на производителността от разработването, подкрепено от изкуствен интелект, усилва този ефект.

Начинът, по който измерваме възвръщаемостта на инвестициите в изкуствен интелект (ИИ), се променя. Вместо да се фокусираме върху суровия изчислителен капацитет, ефективността на задача се превръща в основен показател. Предприятията отчитат средна възвръщаемост на инвестициите от 5,9% за ИИ инициативи, значително под очакванията. Причината често се крие в използването на прекалено големи, скъпи решения за прости проблеми. Преминаването към оптимизирани за задачи SLM системи може драстично да подобри тази възвръщаемост на инвестициите.

Анализът разкрива индустрия в повратна точка. Неправилната инвестиция от 57 милиарда долара е нещо повече от просто надценяване на търсенето. Тя представлява фундаментална стратегическа грешка относно архитектурата на изкуствения интелект. Бъдещето не принадлежи на централизираните гиганти, а на децентрализираните, специализирани и ефективни системи. Моделите с малки езици не са по-лоши от моделите с големи езици – те са по-добри за по-голямата част от реалните приложения. Икономическите, техническите, екологичните и стратегическите аргументи се сближават около ясното заключение: Революцията на изкуствения интелект ще бъде децентрализирана.

Прехвърлянето на власт от доставчици към оператори, от хиперскалери към разработчици на приложения, от централизация към дистрибуция бележи нова фаза в еволюцията на изкуствения интелект. Тези, които разпознаят и възприемат този преход рано, ще бъдат победителите. Тези, които се придържат към старата логика, рискуват скъпите им инфраструктури да се превърнат в блокирани активи, изпреварени от по-гъвкави и ефективни алтернативи. 57-те милиарда долара не са просто пропилени – те бележат началото на края на една парадигма, която вече е остаряла.

☑️ Нашият бизнес език е английски или немски

☑️ НОВО: Кореспонденция на родния ви език!

Konrad Wolfenstein

Аз и моят екип с удоволствие ще бъдем на ваше разположение като ваш личен съветник.

Можете да се свържете с мен, като попълните формата за контакт тук или просто ми се обадите на +49 89 89 674 804 ( Мюнхен) . Моят имейл адрес е: [email protected]

Очаквам с нетърпение нашия съвместен проект.

☑️ Подкрепа за МСП в стратегията, консултирането, планирането и внедряването

☑️ Създаване или пренасочване на дигиталната стратегия и дигитализация

☑️ Разширяване и оптимизиране на международните процеси на продажби

☑️ Глобални и дигитални B2B търговски платформи

☑️ Pioneer Развитие на бизнеса / Маркетинг / PR / Търговски панаири

Възползвайте се от обширния, петкратен опит на Xpert.Digital в цялостен пакет от услуги | R&D, XR, PR и оптимизация на дигиталната видимост - Изображение: Xpert.Digital

Xpert.Digital притежава задълбочени познания в различни индустрии. Това ни позволява да разработваме персонализирани стратегии, прецизно съобразени с изискванията и предизвикателствата на вашия специфичен пазарен сегмент. Чрез непрекъснат анализ на пазарните тенденции и наблюдение на развитието в индустрията, ние можем да действаме проактивно и да предлагаме иновативни решения. Комбинацията от опит и експертиза генерира добавена стойност и осигурява на нашите клиенти решаващо конкурентно предимство.

Повече информация тук:

• Възползвайте се от 5-те области на експертиза на Xpert.Digital в един пакет – от само 500 евро/месец