НОВО! DeepSeek OCR је тихи тријумф Кине: Како вештачка интелигенција отвореног кода поткопава доминацију САД у свету чипова

Како једноставан трик може смањити трошкове рачунарства за 90% – Ахилова пета ChatGPT-а: Зашто нова OCR технологија преписује правила економије вештачке интелигенције

Дуго времена, свет вештачке интелигенције као да следи једноставан закон: веће је боље. Подстакнути милијардама уложеним у гигантске центре података, технолошки гиганти попут OpenAI-ја, Google-а и Anthropic-а су се упустили у трку у наоружању како би развили све веће језичке моделе са све опсежнијим контекстуалним прозорима. Али иза ових импресивних демонстрација крије се фундаментална економска слабост: квадратно скалирање. Свако удвостручавање дужине текста коју се очекује да модел обради доводи до експоненцијалног повећања трошкова рачунарства, чинећи безброј перспективних апликација практично неекономичним.

Управо на овој економској баријери сада долази до изражаја технологија која не само да представља побољшање већ нуди и фундаменталну алтернативу устаљеној парадигми: DeepSeek-OCR. Уместо разбијања текста у дугачак ланац токена, овај систем следи радикално другачији приступ: он претвара текст у слику и визуелно обрађује информације. Овај наизглед једноставан трик испоставља се као економски разбијач бране који тресе темеље инфраструктуре вештачке интелигенције.

Кроз интелигентну комбинацију визуелне компресије, која смањује скупе рачунарске кораке за фактор од 10 до 20, и високо ефикасне архитектуре мешавине стручњака (MoE), DeepSeek OCR заобилази традиционалну замку трошкова. Резултат није само масовно повећање ефикасности, што обраду докумената чини јефтинијом и до 90%, већ и промена парадигме са далекосежним последицама. Овај чланак анализира како ова иновација не само да револуционише тржиште обраде докумената, већ и доводи у питање пословне моделе успостављених добављача вештачке интелигенције, редефинишући стратешки значај хардверске супериорности и демократизујући технологију у широком обиму кроз свој приступ отвореног кода. Можда смо на прагу нове ере у којој архитектонска интелигенција, а не сирова рачунарска снага, диктира правила економије вештачке интелигенције.

У вези са овим:

• Заборавите гиганте вештачке интелигенције: Зашто је будућност мала, децентрализована и много јефтинија | Погрешна процена од 57 милијарди долара – NVIDIA, од свих компанија, упозорава: Индустрија вештачке интелигенције је подржала погрешног коња

Зашто DeepSeek OCR фундаментално доводи у питање успостављену инфраструктуру вештачке интелигенције и пише нова правила економије рачунарства: Класична ограничења контекстуално свесне обраде

Централни проблем са којим се суочавају велики језички модели од свог комерцијалног увођења не лежи у њиховој интелигенцији, већ у њиховој математичкој неефикасности. Дизајн механизма пажње, који чини основу свих модерних трансформаторских архитектура, има фундаменталну слабост: сложеност обраде расте квадратно са бројем улазних токена. Конкретно, то значи да језички модел са контекстом од 4096 токена захтева шеснаест пута више рачунарских ресурса него модел са контекстом од 1024 токена. Ово квадратно скалирање није само технички детаљ, већ директан економски праг који прави разлику између практично одрживих и економски неодрживих апликација.

Дуго времена, индустрија је одговарала на ово ограничење класичном стратегијом скалирања: већи контекстни прозори су постизани проширивањем хардверских капацитета. Мајкрософт је, на пример, развио LongRoPE, који проширује контекстне прозоре на преко два милиона токена, док Гуглов Gemini 1.5 може да обради милион токена. Међутим, пракса јасно показује илузорну природу овог приступа: док су техничке могућности за обраду дужих текстова порасле, усвајање ових технологија у производним окружењима је стагнирало јер структура трошкова за такве сценарије једноставно остаје непрофитабилна. Оперативна реалност за центре података и добављаче услуга у облаку је да се суочавају са експоненцијалним повећањем трошкова за свако удвостручавање дужине контекста.

Ова економска дилема постаје геометријски прогресивна због горе поменуте квадратне сложености: Модел који обрађује текст од 100.000 токена захтева не десет пута, већ сто пута више рачунарског напора него модел који обрађује 10.000 токена. У индустријском окружењу где је пропусност, мерена у токенима у секунди по GPU-у, кључна метрика за профитабилност, то значи да се дугачки документи не могу економски обрађивати коришћењем тренутне парадигме токенизације.

Пословни модел већине провајдера LLM-а изграђен је око монетизације ових токена. OpenAI, Anthropic и други етаблирани провајдери израчунавају своје цене на основу улазних и излазних токена. Просечан пословни документ са стотину страница може се брзо претворити у пет до десет хиљада токена. Ако компанија обрађује стотине таквих докумената дневно, рачун се брзо акумулира до шестоцифрених или седмоцифрених годишњих износа. Већина пословних апликација у RAG контексту (Retrieval Augmented Generation - генерисање проширених података) је ограничена овим трошковима и стога или није имплементирана или је прешла на исплативију алтернативу као што су традиционални OCR или системи засновани на правилима.

У вези са овим:

• Интерна AI платформа компаније као стратешка инфраструктура и пословна неопходност

Механизам визуелне компресије

DeepSeek-OCR представља фундаментално другачији приступ овом проблему, онај који не функционише у оквирима постојеће парадигме токена, већ их буквално заобилази. Систем функционише по једноставном, али радикално ефикасном принципу: уместо разлагања текста на дискретне токене, текст се прво приказује као слика, а затим обрађује као визуелни медијум. Ово није само техничка трансформација, већ концептуални редизајн самог процеса уноса.

Основна шема се састоји од неколико узастопних нивоа обраде. Страница документа високе резолуције се прво конвертује у слику, чувајући све визуелне информације, укључујући распоред, графику, табеле и оригиналну типографију. У овом сликовитом облику, једна страница, на пример у формату 1024×1024 пиксела, теоретски може бити еквивалентна тексту од хиљаду до двадесет хиљада токена, јер страница са табелама, распоредима са више колона и сложеном визуелном структуром може да садржи ову количину информација.

DeepEncoder, прва компонента система за обраду, не користи класичан дизајн визуелног трансформатора, већ хибридну архитектуру. Локални модул перцепције, заснован на моделу сегмента било чега, скенира слику са пажњом усмереном кроз прозор. То значи да систем не ради на целој слици, већ на малим, преклапајућим областима. Ова стратегија је кључна јер избегава класичну замку квадратне сложености. Уместо да сваки пиксел или визуелна карактеристика скреће пажњу на све остале, систем ради унутар локализованих прозора, као што су области осмине осмине или четрнаесте четрнаесте пиксела.

Технички револуционарна фаза долази затим: Двослојни конволуциони даунсэмплер смањује број визуелних токена за фактор шеснаест. То значи да се оригиналних 4.960 визуелних токена закрпа из локалног модула компресује на само 256 визуелних токена. Ово је компресија изненађујуће ефикасних размера, али оно што је заиста значајно јесте да се ова компресија дешава пре него што се примене скупи механизми глобалне пажње. Даунсэмплер представља тачку инверзије где се исплатива локална обрада трансформише у изузетно кондензовану репрезентацију, на коју се затим примењује скупља, али сада изводљива, глобална пажња.

Након ове компресије, модел величине CLIP-а, који сам по себи има триста милиона параметара, оперише на само двеста педесет шест токена. То значи да глобална матрица пажње треба да изврши само четири хиљаде шестсто тридесет пет парних операција пажње уместо шеснаест хиљада деведесет четири. То је смањење за фактор двеста педесет само у овој фази обраде.

Резултат ове архитектонске поделе је компресија од краја до краја од 10:1 до 20:1, практично постижући тачност од 97%, под условом да компресија није екстремнија од 10:1. Чак и са екстремнијом компресијом од 20:1, тачност пада само на око 60%, што је прихватљиво за многе примене, посебно у контексту података за обуку.

Слој оптимизације мешавине стручњака

Други критични аспект DeepSeek OCR-а лежи у његовој архитектури декодирања. Систем користи DeepSeek-3B-MoE, модел са укупно три милијарде параметара, али само 570 милиона активних параметара по инференцији. Ово није био произвољан избор дизајна, већ одговор на проблеме контекстуалног прозора и трошкова.

Модели мешавине стручњака функционишу на принципу динамичке селекције стручњака. Уместо обраде сваког токена кроз све параметре модела, сваки токен се усмерава ка малом подскупу стручњака. То значи да се само део укупних параметара активира у сваком кораку декодирања. У DeepSeek OCR-у, то је обично шест од укупно шездесет четири стручњака, плус два заједничка стручњака која су активна за све токене. Ова ретка активација омогућава феномен познат у економији као сублинеарно скалирање: трошкови израчунавања не расту пропорционално величини модела, већ много спорије.

Економске импликације ове архитектуре су дубоке. Модел густог трансформатора са три милијарде параметара активирао би све три милијарде параметара за сваки токен. То се преводи у огромно ангажовање пропусног опсега меморије и рачунарско оптерећење. Међутим, MoE модел са исте три милијарде параметара активира само 570 милиона по токену, што је отприлике једна петина оперативних трошкова у смислу времена израчунавања. То не значи да квалитет пати, јер капацитет модела није смањен разноликошћу стручњака, већ се селективно мобилише.

У индустријским применама, ова архитектура радикално мења структуру трошкова услуга. Велики дата центар који примењује DeepSeek-V3 са MoE архитектуром може постићи четири до пет пута већи проток на истој хардверској инфраструктури у поређењу са густим моделом еквивалентног квалитета. То значи да на једном A100 GPU-у, оптичка компресија у комбинацији са MoE архитектуром омогућава обраду приближно деведесет милијарди токена дневно чистих текстуалних података. Ово је огроман проток који раније није био достижан у овом сектору.

Искористите предности Xpert.Digital-овог опсежног, петоструког стручног знања у свеобухватном пакету услуга | Истраживање и развој, XR, односи с јавношћу и оптимизација дигиталне видљивости - Слика: Xpert.Digital

Xpert.Digital поседује дубинско знање у различитим индустријама. То нам омогућава да развијемо прилагођене стратегије прецизно усклађене са захтевима и изазовима вашег специфичног тржишног сегмента. Континуираном анализом тржишних трендова и праћењем развоја у индустрији, можемо деловати проактивно и понудити иновативна решења. Комбинација искуства и стручности ствара додатну вредност и пружа нашим клијентима одлучујућу конкурентску предност.

Више информација овде:

• Искористите предности 5 области стручности компаније Xpert.Digital у једном пакету – већ од 500 евра месечно

Економска трансформација тржишта обраде докумената

Последице овог технолошког продора за целокупно тржиште обраде докумената су значајне. Традиционално тржиште OCR-а, којим су дуго доминирале компаније попут ABBYY-ја, Tesseract-а и власничких решења, историјски је фрагментирано на основу сложености докумената, тачности и пропусности. Стандардизована OCR решења обично постижу тачност између 90 и 95 процената за глатке дигиталне документе, али падају на 50 процената или мање за скениране документе са рукописно писаним напоменама или застарелим информацијама.

DeepSeek OCR драматично превазилази ове критеријуме тачности, али такође постиже нешто што традиционални OCR није могао: не обрађује само текст, већ чува разумевање распореда, структуре табеле, форматирања, па чак и семантике. То значи да се финансијски извештај не издваја једноставно као текстуални стринг, већ се задржава структура табеле и математички односи између ћелија. Ово отвара врата аутоматизованој валидацији података коју традиционални OCR није могао да пружи.

Економски утицај је посебно очигледан код апликација са великим обимом обраде. Компанија која дневно обрађује хиљаде фактура обично плаћа између четрдесет центи и два долара по документу за традиционално издвајање података из докумената, у зависности од сложености и нивоа аутоматизације. Са DeepSeek OCR-ом, ови трошкови могу пасти на мање од десет центи по документу јер оптичка компресија чини цео процес закључивања веома ефикасним. Ово представља смањење трошкова од седамдесет до деведесет процената.

Ово има још драматичнији утицај на RAG системе (Retrieval Augmented Generation, Retrieval Augmented Generation), где компаније преузимају екстерне документе у реалном времену и достављају их језичким моделима како би генерисале тачне одговоре. Компанија која управља агентом за корисничку подршку са приступом бази података докумената од стотина милиона речи традиционално би морала да токенизује једну или више ових речи и да их проследи моделу са сваким упитом. Са DeepSeek OCR-ом, ове исте информације могу бити претходно компресоване као компресовани визуелни токени и поново коришћене са сваким упитом. Ово елиминише масивно сувишно израчунавање које се раније дешавало са сваким захтевом.

Студије показују конкретне бројке: Компанија која жели да аутоматски анализира правне документе могла би да очекује трошкове од сто долара по случају анализе користећи традиционалну обраду текста. Са визуелном компресијом, ови трошкови падају на дванаест до петнаест долара по случају. За велике компаније које обрађују стотине случајева дневно, ово се претвара у годишње уштеде у десетинама милиона.

У вези са овим:

• „Немачка анксиозност“ – Да ли је немачка иновативна култура заостала – или је сам „опрез“ облик будуће одрживости?

Контрадикција парадокса ефикасности токена

Фасцинантан економски аспект који произилази из развоја попут DeepSeek OCR-а је такозвани парадокс ефикасности токена. На површини, смањење трошкова кроз побољшану ефикасност требало би да доведе до нижих укупних трошкова. Међутим, емпиријска стварност открива супротан образац. Иако је цена по токену пала за хиљаду пута у последње три године, компаније често пријављују растуће укупне рачуне. То је због феномена који економисти називају Џевонов парадокс: смањење трошкова не доводи до пропорционалног смањења употребе, већ до експлозије употребе, што на крају резултира вишим укупним трошковима.

У контексту DeepSeek OCR-а, могла би се десити супротна појава: компаније које су раније минимизирале употребу језичких модела за обраду докумената јер су трошкови били превисоки сада ће скалирати ове апликације јер оне изненада постају економски исплативе. Парадоксално, то значи да иако се трошкови по апликацији смањују, укупни трошкови на инференцију вештачке инференције унутар компаније могу се повећати јер раније неупотребљиви случајеви употребе сада постају изводљиви.

Ово није негативан развој догађаја, већ одражава економску рационалност компанија: оне улажу у технологију све док маргиналне користи премашују маргиналне трошкове. Све док су трошкови превисоки, технологија неће бити усвојена. Када постане приступачнија, биће усвојена масовно. Ово је нормалан ток усвајања технологије.

Импликације за економију инфраструктуре графичких процесора

Још једна критична тачка тиче се инфраструктуре графичких процесора (GPU) потребне за имплементацију ових система. Оптичка компресија и архитектура мешавине стручњака значе да потребан капацитет хардвера по јединици протока драматично опада. Центар података који је раније захтевао 40.000 H100 графичких процесора за постизање датог протока могао би то постићи са 10.000 или мање система за закључивање заснованих на DeepSeek OCR-у.

Ово има геополитичке и стратешке импликације које превазилазе саму технологију. Кина, суочена са ограничењима извоза напредних полупроводника, развила је систем путем DeepSeek-а који ефикасније функционише са доступним хардвером. То не значи да ограничења хардверске технологије постају небитна, али их чине мање исцрпљујућим. Кинески центар података са 5.000 двогодишњих Nvidia A100 графичких процесора може, са DeepSeek OCR и MoE архитектуром, да испоручи пропусност која би раније захтевала 10.000 или 15.000 новијих графичких процесора.

Ово помера стратешку равнотежу у економији инфраструктуре вештачке интелигенције. Сједињене Државе и њихови савезници дуго су одржавали своју доминацију у развоју вештачке интелигенције захваљујући приступу најновијим и најмоћнијим чиповима. Нове методе ефикасности, попут оптичке компресије, нарушиће ову доминацију омогућавајући ефикасније коришћење старијег хардвера.

Трансформација пословног модела добављача вештачке интелигенције

Успостављени добављачи мастер права (LLM) попут OpenAI, Google-а и Anthropic-а сада се суочавају са изазовом који поткопава њихове пословне моделе. Уложили су велика средства у хардвер за обуку и имплементацију великих, густих модела. Ови модели су вредни и пружају стварну вредност. Међутим, системи попут DeepSeek OCR-а доводе у питање профитабилност ових инвестиција. Ако компанија са мањим капиталним буџетом може да постигне ефикасније моделе кроз различите архитектонске приступе, стратешка предност већих, капитално интензивнијих система је смањена.

OpenAI је ово дуго компензовао брзином: раније су имали боље моделе. То им је давало готово монополски профит, омогућавајући им да оправдају даља улагања. Међутим, како су их други добављачи сустигли и престигли у неким димензијама, етаблирани играчи су изгубили ову предност. Тржишни удели су постали фрагментиранији, а просечне марже профита по токену су пале под притисак.

Образовна инфраструктура и демократизација технологије

Често занемарен аспект система попут DeepSeek-OCR-а је њихова улога у демократизацији технологије. Систем је објављен као отворени код, са тежинама модела доступним на Hugging Face-у и кодом за обуку на GitHub-у. То значи да свако ко има један врхунски GPU, или чак приступ рачунарству у облаку, може да користи, разуме, па чак и фино подеси систем.

Експеримент са Unsloth-ом показао је да је DeepSeek OCR, фино подешен за персијски текст, побољшао стопу грешака карактера за 88 процената користећи само 60 корака обуке на једном GPU-у. Ово није значајно јер је персијски OCR проблем масовног тржишта, већ зато што показује да иновације у инфраструктури вештачке интелигенције више нису у власништву компанија вредних милијарде долара. Мала група истраживача или стартап би могли да прилагоде модел својим специфичним потребама.

Ово има огромне економске последице. Земље којима недостају ресурси за улагање милијарди у развој власничке вештачке интелигенције сада могу да узму системе отвореног кода и прилагоде их својим потребама. Ово смањује јаз у технолошким капацитетима између великих и малих економија.

Импликације маргиналних трошкова и будућност стратегије цена

У класичној економији, цене су дугорочно усмерене ка маргиналним трошковима, посебно када постоји конкуренција и могући су нови уласци на тржиште. Индустрија мастер студија права (LLM) већ показује овај образац, иако са закашњењем. Маргинални трошак закључивања токенима у успостављеним моделима је обично један до две десетине цента по милиону токена. Међутим, цене се обично крећу између два и десет центи по милиону токена, што представља значајне марже профита.

DeepSeek OCR би могао да убрза ову динамику. Ако се маргинални трошкови драматично смање кроз оптичку компресију, конкуренти ће бити приморани да прилагоде своје цене. То би могло довести до убрзане ерозије профитних маржи, што би на крају резултирало сценаријем потрошача где закључивање токенова постаје квази-бесплатна или јефтина услуга, слично складиштењу у облаку.

Овај развој догађаја је застрашујући за већ постојеће добављаче, а користан за нове или добављаче оријентисане на ефикасност. Покренуће масовну консолидацију или репозиционирање унутар индустрије. Компаније које се ослањају искључиво на обим и величину модела имаће потешкоћа. Компаније фокусиране на ефикасност, специфичне случајеве употребе и интеграцију купаца изаћи ће јаче на дужи рок.

У вези са овим:

• Суверенитет вештачке интелигенције за компаније: Да ли је ово предност Европе у погледу вештачке интелигенције? Како контроверзни закон постаје прилика у глобалној конкуренцији

Промена парадигме на економском нивоу

DeepSeek OCR и основна иновација оптичке компресије представљају више од пуког техничког побољшања. Они означавају промену парадигме у начину на који индустрија вештачке интелигенције размишља, инвестира и иновира. Прелазак са чистог скалирања на интелигентни дизајн, усвајање MoE архитектура и разумевање да визуелно кодирање може бити ефикасније од кодирања токена су све знаци да индустрија разматра сазревање својих техничких граница.

Економски, ово значи масовно промену величине трошковних структура, прерасподелу конкурентске позиције између већ постојећих и нових играча и фундаментално прерачунавање профитабилности различитих вештачких апликација. Компаније које разумеју ове промене и брзо се прилагоде стећи ће значајне стратешке предности. Компаније које игноришу ову промену и држе се устаљених приступа изгубиће конкурентност.

☑️ Наш пословни језик је енглески или немачки

☑️ НОВО: Преписка на вашем матерњем језику!

Konrad Wolfenstein

Ја и мој тим смо срећни што вам можемо бити на располагању као ваш лични саветник.

Можете ме контактирати попуњавањем контакт форме овде или једноставно позовите на +49 89 89 674 804 ( Минхен) . Моја имејл адреса је: [email protected]

Радујем се нашем заједничком пројекту.

☑️ Подршка малим и средњим предузећима у стратегији, консултацијама, планирању и имплементацији

☑️ Креирање или реорганизација дигиталне стратегије и дигитализације

☑️ Проширење и оптимизација међународних продајних процеса

☑️ Глобалне и дигиталне B2B платформе за трговање

☑️ Пионирски развој пословања / Маркетинг / Односи с јавношћу / Сајмови

Наша глобална стручност у индустрији и економији у развоју пословања, продаји и маркетингу - Слика: Xpert.Digital

Фокус индустрије: B2B, дигитализација (од AI до XR), машинство, логистика, обновљиви извори енергије и индустрија

Више информација овде:

• Експертски пословни центар

Тематски центар који нуди увиде и стручност:

• Платформа знања која покрива глобалне и регионалне економије, иновације и трендове специфичне за индустрију
• Збирка анализа, увида и основних информација из наших кључних области фокуса
• Место за стручност и информације о актуелним дешавањима у пословању и технологији
• Чвориште за компаније које траже информације о тржиштима, дигитализацији и иновацијама у индустрији