NYT! DeepSeek OCR er Kinas stille triumf: Hvordan en open source AI underminerer amerikansk dominans inden for chips

Hvordan et simpelt trick kan reducere computeromkostninger med 90% – ChatGPTs akilleshæl: Hvorfor en ny OCR-teknologi omskriver reglerne for AI-økonomien

I lang tid syntes den kunstige intelligens' verden at følge en simpel lov: større jo bedre. Drevet af milliarder investeret i gigantiske datacentre, indledte tech-giganter som OpenAI, Google og Anthropic et våbenkapløb for at udvikle stadigt større sprogmodeller med stadigt mere omfattende kontekstuelle vinduer. Men bag disse imponerende demonstrationer ligger en fundamental økonomisk svaghed: kvadratisk skalering. Hver fordobling af den tekstlængde, en model forventes at behandle, fører til en eksponentiel stigning i computeromkostninger, hvilket gør utallige lovende applikationer praktisk talt uøkonomiske.

Det er netop ved denne økonomiske barriere, at en teknologi nu kommer i spil, som ikke blot repræsenterer en forbedring, men også tilbyder et fundamentalt alternativ til det etablerede paradigme: DeepSeek-OCR. I stedet for at opdele tekst i en lang kæde af tokens, forfølger dette system en radikalt anderledes tilgang: det gengiver tekst til et billede og bearbejder informationen visuelt. Dette tilsyneladende simple trick viser sig at være en økonomisk dæmningsbryder, der ryster fundamentet for AI-infrastrukturen.

Gennem en intelligent kombination af visuel komprimering, som reducerer dyre beregningstrin med en faktor 10 til 20, og en yderst effektiv Mixture-of-Experts (MoE)-arkitektur, omgår DeepSeek OCR den traditionelle omkostningsfælde. Resultatet er ikke kun en massiv effektivitetsforøgelse, der gør dokumentbehandling op til 90 % billigere, men også et paradigmeskift med vidtrækkende konsekvenser. Denne artikel analyserer, hvordan denne innovation ikke kun revolutionerer markedet for dokumentbehandling, men også udfordrer forretningsmodellerne hos etablerede AI-leverandører, omdefinerer den strategiske betydning af hardwareoverlegenhed og demokratiserer teknologien i bred skala gennem dens open source-tilgang. Vi kan være på tærsklen til en ny æra, hvor arkitektonisk intelligens snarere end rå computerkraft dikterer reglerne for AI-økonomi.

Relateret til dette:

• Glem AI-giganterne: Hvorfor fremtiden er lille, decentraliseret og meget billigere | Fejlberegningen på 57 milliarder dollars – NVIDIA advarer af alle virksomheder: AI-industrien spillede på den forkerte hest

Hvorfor DeepSeek OCR fundamentalt udfordrer den etablerede infrastruktur for kunstig intelligens og skriver nye regler for datalogiøkonomi: De klassiske begrænsninger ved kontekstbevidst behandling

Det centrale problem, som store sprogmodeller har stået over for siden deres kommercielle introduktion, ligger ikke i deres intelligens, men i deres matematiske ineffektivitet. Opmærksomhedsmekanismedesignet, som danner grundlaget for alle moderne transformerarkitekturer, har en fundamental svaghed: behandlingskompleksiteten vokser kvadratisk med antallet af input-tokens. Konkret betyder dette, at en sprogmodel med en kontekst på 4096 tokens kræver seksten gange flere computerressourcer end en model med en kontekst på 1024 tokens. Denne kvadratiske skalering er ikke blot en teknisk detalje, men en direkte økonomisk tærskel, der skelner mellem praktisk levedygtige og økonomisk uholdbare applikationer.

I lang tid reagerede branchen på denne begrænsning med en klassisk skaleringsstrategi: større kontekstvinduer blev opnået ved at udvide hardwarekapaciteten. Microsoft udviklede for eksempel LongRoPE, som udvider kontekstvinduer til over to millioner tokens, mens Googles Gemini 1.5 kan behandle en million tokens. Praksis viser dog tydeligt den illusoriske natur af denne tilgang: Mens den tekniske kapacitet til at behandle længere tekster er vokset, er anvendelsen af ​​disse teknologier i produktionsmiljøer stagneret, fordi omkostningsstrukturen for sådanne scenarier simpelthen forbliver urentabel. Den operationelle virkelighed for datacentre og cloududbydere er, at de står over for en eksponentiel stigning i omkostningerne for hver fordobling af kontekstlængden.

Dette økonomiske dilemma bliver geometrisk progressivt på grund af den førnævnte kvadratiske kompleksitet: En model, der behandler en tekst på 100.000 tokens, kræver ikke ti gange, men hundrede gange mere beregningsindsats end en model, der behandler 10.000 tokens. I et industrielt miljø, hvor gennemløb, målt i tokens pr. sekund pr. GPU, er en nøglemåling for rentabilitet, betyder det, at lange dokumenter ikke kan behandles økonomisk ved hjælp af det nuværende tokeniseringsparadigme.

Forretningsmodellen for de fleste LLM-udbydere er bygget op omkring at tjene penge på disse tokens. OpenAI, Anthropic og andre etablerede udbydere beregner deres priser baseret på input- og output-tokens. Et gennemsnitligt forretningsdokument på hundrede sider kan hurtigt omsættes til fem til ti tusinde tokens. Hvis en virksomhed behandler hundredvis af sådanne dokumenter dagligt, akkumuleres regningen hurtigt til seks- eller syvcifrede årlige beløb. De fleste virksomhedsapplikationer i RAG-sammenhæng (Retrieval Augmented Generation) har været begrænset af disse omkostninger og er derfor enten ikke blevet implementeret eller er skiftet til et mere omkostningseffektivt alternativ såsom traditionel OCR eller regelbaserede systemer.

Relateret til dette:

• Virksomhedens interne AI-platform som strategisk infrastruktur og en forretningsmæssig nødvendighed

Mekanismen for visuel kompression

DeepSeek-OCR præsenterer en fundamentalt anderledes tilgang til dette problem, en tilgang der ikke opererer inden for rammerne af det eksisterende token-paradigme, men snarere bogstaveligt talt omgår dem. Systemet fungerer efter et simpelt, men radikalt effektivt princip: i stedet for at nedbryde tekst til separate tokens, gengives teksten først som et billede og behandles derefter som et visuelt medie. Dette er ikke blot en teknisk transformation, men et konceptuelt redesign af selve inputprocessen.

Kernestrukturen består af flere successive behandlingsniveauer. En dokumentside i høj opløsning konverteres først til et billede, hvorved al visuel information bevares, herunder layout, grafik, tabeller og den originale typografi. I denne billedform kan en enkelt side, for eksempel i 1024×1024 pixelformat, teoretisk set svare til en tekst på tusind til tyve tusind tokens, fordi en side med tabeller, layout med flere kolonner og en kompleks visuel struktur kan indeholde denne mængde information.

DeepEncoder, systemets første behandlingskomponent, bruger ikke et klassisk visuelt transformerdesign, men snarere en hybridarkitektur. Et lokalt perceptionsmodul, baseret på Segment Anything Model, scanner billedet med vinduesopmærksomhed. Det betyder, at systemet ikke opererer på hele billedet, men på små, overlappende områder. Denne strategi er afgørende, fordi den undgår den klassiske kvadratiske kompleksitetsfælde. I stedet for at hver pixel eller visuel funktion henleder opmærksomheden på alle andre, opererer systemet inden for lokaliserede vinduer, såsom ottende-ottende eller fjortende-fjortende pixelområder.

Den teknisk revolutionerende fase kommer derefter: En to-lags konvolutionel downsampler reducerer antallet af visuelle tokens med en faktor på seksten. Det betyder, at de oprindelige 4.960 visuelle patch-tokens fra det lokale modul komprimeres til blot 256 visuelle tokens. Dette er en komprimering af overraskende effektive proportioner, men det, der virkelig er betydningsfuldt, er, at denne komprimering sker, før de dyre globale opmærksomhedsmekanismer anvendes. Downsampleren repræsenterer et inversionspunkt, hvor omkostningseffektiv lokal behandling transformeres til en ekstremt kondenseret repræsentation, hvorpå dyrere, men nu mulig, global opmærksomhed derefter anvendes.

Efter denne komprimering opererer en CLIP-størrelse model, som i sig selv har tre hundrede millioner parametre, kun på to hundrede og seksoghalvtreds tokens. Det betyder, at den globale opmærksomhedsmatrix kun behøver at udføre fire tusinde seks hundrede og femogtredive parvise opmærksomhedsoperationer i stedet for seksten tusinde og fireoghalvfems. Det er en reduktion på en faktor to hundrede og halvtreds alene i denne behandlingsfase.

Resultatet af denne arkitektoniske opdeling er en end-to-end-komprimering fra 10:1 til 20:1, hvilket praktisk talt opnår en nøjagtighed på 97 %, forudsat at komprimeringen ikke er mere ekstrem end 10:1. Selv med en mere ekstrem komprimering på 20:1 falder nøjagtigheden kun til omkring 60 %, et punkt, der er acceptabelt for mange applikationer, især i forbindelse med træningsdata.

Optimeringslaget "Blanding af eksperter"

Et andet kritisk aspekt ved DeepSeek OCR ligger i dets afkodningsarkitektur. Systemet bruger DeepSeek-3B-MoE, en model med i alt tre milliarder parametre, men kun 570 millioner aktive parametre pr. inferens. Dette var ikke et vilkårligt designvalg, men snarere et svar på kontekstvinduet og omkostningsproblemer.

Modeller med blanding af eksperter fungerer ud fra princippet om dynamisk ekspertudvælgelse. I stedet for at behandle hvert token gennem alle modelparametre, dirigeres hvert token til en lille delmængde af eksperter. Det betyder, at kun en brøkdel af de samlede parametre aktiveres ved hvert afkodningstrin. I DeepSeek OCR er dette typisk seks ud af i alt 64 eksperter plus to delte eksperter, der er aktive for alle tokens. Denne sparsomme aktivering muliggør et fænomen kendt i økonomi som sublineær skalering: Beregningsomkostninger vokser ikke proportionalt med modellens størrelse, men snarere meget langsommere.

De økonomiske implikationer af denne arkitektur er vidtrækkende. En tæt transformermodel med tre milliarder parametre ville aktivere alle tre milliarder parametre for hver token. Dette betyder en massiv hukommelsesbåndbreddeforpligtelse og beregningsbelastning. En MoE-model med de samme tre milliarder parametre aktiverer dog kun 570 millioner pr. token, hvilket er omtrent en femtedel af driftsomkostningerne med hensyn til beregningstid. Dette betyder ikke, at kvaliteten lider, fordi modellens kapacitet ikke reduceres af eksperternes mangfoldighed, men snarere mobiliseres selektivt.

I industrielle implementeringer ændrer denne arkitektur radikalt serviceomkostningsstrukturen. Et stort datacenter, der implementerer DeepSeek-V3 med MoE-arkitektur, kan opnå fire til fem gange så høj gennemløbshastighed på den samme hardwareinfrastruktur sammenlignet med en tæt model af tilsvarende kvalitet. Det betyder, at på en enkelt A100 GPU muliggør optisk komprimering i forbindelse med MoE-arkitektur behandling af cirka halvfems milliarder tokens om dagen af ​​rene tekstdata. Dette er en enorm gennemløbshastighed, der tidligere var uopnåelig i denne sektor.

Drag fordel af Xpert.Digital's omfattende, femdobbelte ekspertise i en omfattende servicepakke | R&D, XR, PR & optimering af digital synlighed - Billede: Xpert.Digital

Xpert.Digital besidder dybdegående viden på tværs af forskellige brancher. Dette giver os mulighed for at udvikle skræddersyede strategier, der er præcist afstemt med kravene og udfordringerne i dit specifikke markedssegment. Ved løbende at analysere markedstendenser og overvåge brancheudviklingen kan vi handle proaktivt og tilbyde innovative løsninger. Kombinationen af ​​erfaring og ekspertise skaber merværdi og giver vores kunder en afgørende konkurrencefordel.

Mere information her:

• Drag fordel af Xpert.Digital's 5 ekspertiseområder i én pakke – fra kun €500/måned

Økonomisk transformation af markedet for dokumentbehandling

Konsekvenserne af dette teknologiske gennembrud for hele markedet for dokumentbehandling er betydelige. Det traditionelle OCR-marked, længe domineret af virksomheder som ABBYY, Tesseract og proprietære løsninger, har historisk set været fragmenteret baseret på dokumenters kompleksitet, nøjagtighed og gennemløbshastighed. Standardiserede OCR-løsninger opnår typisk nøjagtigheder mellem 90 og 95 procent for jævne digitale dokumenter, men falder til 50 procent eller lavere for scannede dokumenter med håndskrevne annotationer eller forældede oplysninger.

DeepSeek OCR overgår disse nøjagtighedsbenchmarks markant, men den opnår også noget, som traditionel OCR ikke kunne: den behandler ikke kun tekst, men bevarer også forståelsen af ​​layout, tabelstruktur, formatering og endda semantik. Det betyder, at en finansiel rapport ikke blot udtrækkes som en tekststreng, men at tabelstrukturen og de matematiske relationer mellem celler bevares. Dette åbner døren for automatiseret datavalidering, som traditionel OCR ikke kunne tilbyde.

Den økonomiske effekt er særligt tydelig i applikationer med høj volumen. En virksomhed, der behandler tusindvis af fakturaer dagligt, betaler typisk mellem fyrre cent og to dollars pr. dokument for traditionel dokumentbaseret dataudtrækning, afhængigt af kompleksitet og automatiseringsniveau. Med DeepSeek OCR kan disse omkostninger falde til under ti cent pr. dokument, fordi optisk komprimering gør hele inferensprocessen så effektiv. Dette repræsenterer en omkostningsreduktion på halvfjerds til halvfems procent.

Dette har en endnu mere dramatisk indvirkning på RAG-systemer (Retrieval Augmented Generation), hvor virksomheder henter eksterne dokumenter i realtid og sender dem til sprogmodeller for at generere præcise svar. En virksomhed, der driver en kundeservicemedarbejder med adgang til en dokumentdatabase på hundredvis af millioner ord, ville traditionelt være nødt til at tokenisere et eller flere af disse ord og sende dem til modellen ved hver forespørgsel. Med DeepSeek OCR kan de samme oplysninger forkomprimeres som komprimerede visuelle tokens og genbruges ved hver forespørgsel. Dette eliminerer massiv redundant beregning, der tidligere forekom ved hver anmodning.

Undersøgelserne viser konkrete tal: En virksomhed, der ønsker at analysere juridiske dokumenter automatisk, kan forvente omkostninger på hundrede dollars pr. analysesag ved hjælp af traditionel tekstbehandling. Med visuel komprimering falder disse omkostninger til tolv til femten dollars pr. sag. For store virksomheder, der behandler hundredvis af sager dagligt, betyder dette årlige besparelser i titusindvis af millioner.

Relateret til dette:

• "Den tyske angst" – Er tysk innovationskultur tilbagestående – eller er "forsigtighed" i sig selv en form for fremtidig levedygtighed?

Modsætningen i tokeneffektivitetsparadokset

Et fascinerende økonomisk aspekt, der opstår som følge af udviklinger som DeepSeek OCR, er det såkaldte token-effektivitetsparadoks. På overfladen burde omkostningsreduktion gennem forbedret effektivitet føre til lavere samlede udgifter. Den empiriske virkelighed afslører dog det modsatte mønster. Selvom omkostningerne pr. token er faldet med en faktor tusind i løbet af de sidste tre år, rapporterer virksomheder ofte stigende samlede regninger. Dette skyldes et fænomen, som økonomer kalder Jevons-paradokset: reduktionen i omkostninger fører ikke til en proportional reduktion i brugen, men snarere til en eksplosion i brugen, hvilket i sidste ende resulterer i højere samlede omkostninger.

I forbindelse med DeepSeek OCR kan et modsatrettet fænomen forekomme: virksomheder, der tidligere minimerede brugen af ​​sprogmodeller til dokumentbehandling, fordi omkostningerne var uoverkommelige, vil nu skalere disse applikationer, fordi de pludselig bliver økonomisk levedygtige. Paradoksalt nok betyder det, at selvom omkostningerne pr. applikation falder, kan de samlede udgifter til AI-inferens i en virksomhed stige, fordi tidligere ubrugelige use cases nu bliver mulige.

Dette er ikke en negativ udvikling, men afspejler snarere virksomheders økonomiske rationalitet: de investerer i teknologi, så længe de marginale fordele overstiger de marginale omkostninger. Så længe omkostningerne er uoverkommelige, vil teknologien ikke blive taget i brug. Når den bliver mere overkommelig, vil den blive taget i brug i stor skala. Dette er den normale fremgangsmåde for teknologiadoption.

Implikationerne for GPU-infrastrukturens økonomi

Et andet kritisk punkt vedrører den GPU-infrastruktur, der kræves for at implementere disse systemer. Optisk kompression og arkitekturen med en blanding af eksperter betyder, at den nødvendige hardwarekapacitet pr. enhed gennemløbshastighed falder dramatisk. Et datacenter, der tidligere krævede 40.000 H100 GPU'er for at opnå en given gennemløbshastighed, kunne opnå dette med 10.000 eller færre DeepSeek OCR-baserede inferenssystemer.

Dette har geopolitiske og strategiske implikationer, der rækker ud over ren teknologi. Kina, der står over for eksportrestriktioner på avancerede halvledere, har udviklet et system gennem DeepSeek, der fungerer mere effektivt med tilgængelig hardware. Dette betyder ikke, at hardwarebegrænsninger bliver irrelevante, men de gør dem mindre invaliderende. Et kinesisk datacenter med 5.000 to år gamle Nvidia A100 GPU'er kan med DeepSeek OCR og MoE-arkitektur levere en hastighed, der tidligere ville have krævet 10.000 eller 15.000 nyere GPU'er.

Dette ændrer den strategiske balance i AI-infrastrukturøkonomien. USA og dets allierede har længe opretholdt deres dominans inden for AI-udvikling ved at have adgang til de nyeste og mest kraftfulde chips. Nye effektivitetsmetoder som optisk kompression vil udhule denne dominans ved at muliggøre en mere effektiv brug af ældre hardware.

Transformationen af ​​forretningsmodellen for AI-udbydere

Etablerede LLM-udbydere som OpenAI, Google og Anthropic står nu over for en udfordring, der underminerer deres forretningsmodeller. De har investeret kraftigt i hardware til at træne og implementere store, tætte modeller. Disse modeller er værdifulde og leverer reel værdi. Systemer som DeepSeek OCR sætter dog spørgsmålstegn ved rentabiliteten af ​​disse investeringer. Hvis en virksomhed med et mindre kapitalbudget kan opnå mere effektive modeller gennem forskellige arkitektoniske tilgange, mindskes den strategiske fordel ved de større, mere kapitalintensive systemer.

OpenAI kompenserede længe for dette med hastighed: de havde bedre modeller tidligere. Dette gav dem næsten monopolprofitter, hvilket gjorde det muligt for dem at retfærdiggøre yderligere investeringer. Men efterhånden som andre udbydere indhentede og overgik dem på nogle dimensioner, mistede etablerede aktører denne fordel. Markedsandelene blev mere fragmenterede, og de gennemsnitlige profitmarginer pr. token faldt under pres.

Uddannelsesinfrastruktur og demokratisering af teknologi

Et ofte overset aspekt ved systemer som DeepSeek-OCR er deres rolle i at demokratisere teknologi. Systemet blev udgivet som open source med modelvægte tilgængelige på Hugging Face og træningskode på GitHub. Det betyder, at alle med en enkelt avanceret GPU eller endda adgang til cloud computing kan bruge, forstå og endda finjustere systemet.

Et eksperiment med Unsloth viste, at DeepSeek OCR, finjusteret til persisk tekst, forbedrede tegnfejlraten med 88 procent ved kun at bruge 60 træningstrin på en enkelt GPU. Dette er ikke signifikant, fordi persisk OCR er et massemarkedsproblem, men fordi det demonstrerer, at innovation inden for AI-infrastruktur ikke længere ejes af milliardvirksomheder. En lille gruppe forskere eller en startup kunne skræddersy en model til deres specifikke behov.

Dette har massive økonomiske konsekvenser. Lande, der mangler ressourcer til at investere milliarder i proprietær AI-udvikling, kan nu tage open source-systemer og tilpasse dem til deres egne behov. Dette reducerer den teknologiske kapacitetskløft mellem store og små økonomier.

Marginalomkostningerne og fremtiden for prisstrategien

I klassisk økonomi styres priserne i det lange løb mod marginalomkostninger, især når der er konkurrence, og nye markedsadgange er mulige. LLM-industrien udviser allerede dette mønster, omend med en forsinkelse. De marginale omkostninger ved tokeninferens i etablerede modeller er typisk en til to tiendedele af en cent pr. million tokens. Priserne ligger dog normalt mellem to og ti cent pr. million tokens, et interval der repræsenterer betydelige profitmarginer.

DeepSeek OCR kan accelerere denne dynamik. Hvis marginalomkostningerne falder dramatisk gennem optisk komprimering, vil konkurrenterne blive tvunget til at justere deres priser. Dette kan føre til en accelereret erosion af profitmarginerne, hvilket i sidste ende resulterer i et forbrugerscenarie, hvor token-inferens bliver en næsten fri eller billig tjeneste, ligesom cloud-lagring.

Denne udvikling er skræmmende for etablerede udbydere og fordelagtig for nye eller effektivitetsorienterede udbydere. Den vil udløse massiv konsolidering eller repositionering inden for branchen. Virksomheder, der udelukkende er afhængige af skala og modelstørrelse, vil have det svært. Virksomheder, der fokuserer på effektivitet, specifikke use cases og kundeintegration, vil komme stærkere frem i det lange løb.

Relateret til dette:

• AI-suverænitet for virksomheder: Er dette Europas AI-fordel? Hvordan en kontroversiel lov bliver en mulighed i den globale konkurrence

Et paradigmeskift på et økonomisk niveau

DeepSeek OCR og den underliggende optiske komprimeringsinnovation repræsenterer mere end blot en teknisk forbedring. De markerer et paradigmeskift i, hvordan AI-industrien tænker, investerer og innoverer. Skiftet væk fra ren skalering til intelligent design, implementeringen af ​​MoE-arkitekturer og forståelsen af, at visuel kodning kan være mere effektiv end token-kodning, er alle tegn på, at industrien anser sine tekniske grænser for at modnes.

Økonomisk set betyder dette en massiv ændring af omkostningsstrukturer, en omfordeling af konkurrencepositionen mellem etablerede og nye aktører og en fundamental genberegning af rentabiliteten af ​​forskellige AI-applikationer. Virksomheder, der forstår disse skift og tilpasser sig hurtigt, vil opnå betydelige strategiske fordele. Virksomheder, der ignorerer dette skift og klamrer sig til etablerede tilgange, vil miste konkurrenceevne.

☑️ Vores forretningssprog er engelsk eller tysk

☑️ NYT: Korrespondance på dit modersmål!

Konrad Wolfenstein

Jeg og mit team er glade for at stå til rådighed for dig som din personlige rådgiver.

Du kan kontakte mig ved at udfylde kontaktformularen her eller blot ringe til mig på +49 89 89 674 804 ( München) . Min e-mailadresse er: [email protected]

Jeg glæder mig til vores fælles projekt.

☑️ SMV-support inden for strategi, rådgivning, planlægning og implementering

☑️ Oprettelse eller omlægning af den digitale strategi og digitalisering

☑️ Udvidelse og optimering af internationale salgsprocesser

☑️ Globale og digitale B2B-handelsplatforme

☑️ Pioner inden for forretningsudvikling / marketing / PR / messer

Vores globale branche- og økonomiske ekspertise inden for forretningsudvikling, salg og marketing - Billede: Xpert.Digital

Branchefokusområder: B2B, digitalisering (fra AI til XR), maskinteknik, logistik, vedvarende energi og industri

Mere information her:

• Ekspert Business Hub

Et tematisk knudepunkt, der tilbyder indsigt og ekspertise:

• Vidensplatform, der dækker globale og regionale økonomier, innovation og branchespecifikke tendenser
• En samling af analyser, indsigter og baggrundsinformation fra vores vigtigste fokusområder
• Et sted for ekspertise og information om aktuelle udviklinger inden for erhvervsliv og teknologi
• Et knudepunkt for virksomheder, der søger information om markeder, digitalisering og brancheinnovationer