Intelligensens felslutning: Varför dagens AI-modeller inte är smartare än en huskatt

Apples avslöjande studie: Varför artificiell intelligens misslyckas med enkel logik

440 miljarder dollar i potential eller kostnadsfälla? Där AI verkligen skapar värde – och där den inte gör det

Artificiell intelligens hyllas som vår tids tekniska revolution – en räddare som lovar företag gigantiska produktivitetsvinster och miljarder i mervärde. Men den som tittar bakom algoritmernas kulisser stöter på en häpnadsväckande paradox: Samma språkmodeller som bearbetar årtusenden av kunskap på millisekunder misslyckas kapitalt med enkla logiska slutsatser som vilket grundskolebarn som helst lätt kan förstå. Vetenskapliga studier från teknikjättar som Apple och välrenommerade universitet visar alltmer att dagens AI-system saknar en genuin förståelse av världen. De är briljanta, mycket komplexa mönsterigenkännare, men usla tänkare. Detta skapar en farlig spänning för näringsliv och samhälle. Där AI används strategiskt som ett verktyg för massiva datamängder har den enorm potential. Att blint förlita sig på dess förmodade intelligens för komplexa, strategiska beslut riskerar dock kostsamma hallucinationer och allvarliga rättsliga konsekvenser. Det är dags för en nykter bedömning: Vad kan den smarta maskinen egentligen göra – och var finns dess blinda fläckar?

Den smarta maskinen och dess blinda fläckar

Varför AI översvämmar världen med data – men misslyckas med att tänka

Den som arbetar med artificiell intelligens dagligen märker snabbt en grundläggande paradox: Samma teknik som bearbetar miljontals datapunkter på sekunder och till synes enkelt misslyckas med logiska härledningar som en gymnasieelev skulle kunna lösa på några minuter. Denna observation är inte ett isolerat anekdotiskt fynd, utan ett strukturellt kännetecken för moderna AI-system, som nu stöds av ett växande antal vetenskapliga studier. De ekonomiska konsekvenserna av denna skillnad är betydande: Den avgör var AI verkligen skapar värde och var den blir en kostsam besvikelse.

Gigantisk datormaskin – triumf i bearbetning av enorma mängder data

Om vi ​​först funderar över vad AI verkligen är kapabel till blir den förvåning som denna teknik har väckt förståelig. Stora språkmodeller (LLM) har tränats på texter som, enligt uppskattningar av Nouha Dziri från Allen Institute for AI, skulle ta en människa cirka 20 000 år att läsa. Detta är inte en metafor, utan ett mått på den rena kapaciteten för statistisk mönsterbearbetning som ligger till grund för moderna AI-system.

Denna förmåga erbjuder enorm potential för ekonomin. Studien "The Digital Factor", som genomförts av IW Consult och Implement Consulting Group på uppdrag av Google, uppskattar den totala ekonomiska potentialen för generativ AI för Tyskland till cirka 440 miljarder euro i ytterligare bruttoförädlingsvärde fram till 2034. Av detta kan 330 miljarder euro hänföras till produktivitetsökningar genom effektivare processer, och ytterligare 110 miljarder euro till nya innovationer – till exempel genom accelererade forsknings- och utvecklingscykler, vilka enligt studien skulle kunna bli 10 till 15 procent effektivare. Dessa siffror återspeglar vad AI verkligen utmärker sig i: blixtsnabb sökning, sortering, komprimering och rekombinering av strukturerade och ostrukturerade datamängder.

Den ekonomiska grunden för detta prestandakrav ligger i de realtidsanalytiska förmågorna hos moderna AI-system. Big Data Analytics, förstärkt av AI-baserad bearbetning, gör det nu möjligt för företag att känna igen mönster i heterogena datamängder från sociala medier, sensornätverk, finansiella transaktioner och leveranskedjedata – allt samtidigt och på millisekunder. Tyska ekonomiinstitutet (IW Köln) betonar att digitaliseringen frigör potential i många sektorer av ekonomin som helt enkelt skulle förbli oåtkomliga utan AI. För företag innebär detta att AI som databehandlingsinfrastruktur redan är tydligt motiverad ur ett affärsperspektiv.

Avgörande är att denna styrka måste förstås exakt. AI är en mycket sofistikerad statistisk mönsterigenkännare. Den identifierar korrelationer mellan ord, meningar och begrepp baserat på sannolikheter – inte på förståelse. Om ett AI-system "vet" att "kung" och "drottning" har samma förhållande som "man" och "kvinna", beror det inte på att det förstår monarki eller kön, utan på att detta vektorförhållande återkommer konsekvent i träningsdata. Detta är ett mönster, inte en princip. Och det är just här begränsningen ligger.

Intelligensens felslutning – Vad mönsterigenkänning inte är

Den offentliga debatten om AI lider av en ihållande missuppfattning: mönsterigenkänning likställs med tänkande, statistiskt samband med kausal inferens. Denna missuppfattning är inte trivial – den är källan till uppblåsta förväntningar i styrelserum, överprissatta AI-projekt och besvikna användare.

Det som fundamentalt skiljer mänskligt tänkande från maskinell bearbetning kan illustreras med exemplet med en enkel syllogism. Om en person läser meningen: "Alla däggdjur är varmblodiga. Valar är däggdjur. Därför är valar varmblodiga", drar de denna slutsats eftersom de förstår det logiska sambandet mellan premisserna – även i en syllogism de aldrig har stött på förut. Ett neuralt nätverk kan komma fram till samma svar eftersom det statistiskt sett har lärt sig från sina träningsdata att "valar" ofta förknippas med termen "varmblodiga". Detta låter som samma resultat. Det är dock en fundamentalt annorlunda process – och denna grund blir skör så fort man avviker från det välbekanta.

Filosofen John Searle beskrev träffande detta problem på 1980-talet med tankeexperimentet "Kinesiska rummet": En person sitter i ett rum, följer regler för att manipulera symboler de inte förstår och producerar svar som utifrån sett verkar komma från någon som talar flytande kinesiska. Rummet förstår inte kinesiska – det imiterar förståelse. Det är precis vad moderna juridikstudenter gör: De manipulerar symboler enligt statistiska sannolikheter utan att förstå den underliggande betydelsen. Dagens AI-expert, Michael Baggot, professor i bioetik vid det påvliga Athenaeum Regina Apostolorum i Rom, uttrycker det skarpt ur ett filosofiskt perspektiv: Det finns en kategorisk skillnad mellan en maskins statistiska mönsterigenkänning och det mänskliga sinnet, som är kapabelt att förstå den metafysiska principen om orsak och verkan som sådan.

Yann LeCun, chefsforskare för AI på Meta, och Demis Hassabis, VD för Google DeepMind, delar en viktig bedömning trots sina konkurrensutsatta miljöer: Dagens AI-system har inte ens de grundläggande kognitiva förmågorna hos en huskatt när det gäller flexibelt, kontextmedvetet resonemang. Denna bedömning kan låta provocerande, men den når kärnan i problemet: En katt kan känna igen orsak-verkan-samband i en ny miljö och anpassa sitt beteende därefter. En LLM (Large Life Model) kan inte göra detta tillförlitligt eftersom den inte har en världsmodell, utan bara reproducerar mönster från tidigare data.

Kollaps under komplexitet – De vetenskapliga bevisen mot AI-resonemang

Nyare vetenskaplig forskning har i allt högre grad belyst begränsningarna i AI-resonemang. Resultaten är konsekventa och bör beaktas vid all ekonomisk utvärdering av AI-investeringar.

Apples studie av så kallade "Large Reasoning Models" (LRM) – modeller som ofta hyllas för sina förmodade resonemangsförmågor – avslöjar ett allvarligt mönster: När problemkomplexiteten ökar drabbas dessa system av en fullständig kollaps i noggrannhet. Forskarna identifierade tre prestandaområden. Vid låg komplexitet överträffas LRM till och med av enklare standardspråkmodeller, även om de är mindre effektiva. Vid medelhög komplexitet visar LRM en liten fördel. Vid hög komplexitet misslyckas båda typerna av system helt. Dessutom upptäckte Apple en kontraintuitiv skalningsgräns: Modellernas beräkningsansträngning, mätt med de förbrukade tokens, ökar med problemkomplexiteten upp till en viss punkt – men minskar sedan, även när fler datorresurser är tillgängliga. Detta tyder på en grundläggande arkitektonisk begränsning, inte bara en fråga om kapacitet.

En studie från Arizona State University gick ett steg längre och undersökte så kallad tankekedja (CoT) – en metod där AI-modeller instrueras att tänka steg för steg innan de svarar. Resultatet: Det som verkar vara intelligent resonemang visar sig vara en bräcklig illusion. Tankkedjan fungerar bara tillförlitligt så länge testdata strukturellt sett liknar träningsdata. Så snart nya uppgiftstyper, ändrade argumentkedjelängder eller modifierade promptformat kommer in i bilden, kollapsar den förmodade kognitiva prestandan. Systemen är briljanta reproducerare av kända strukturer – men hjälplösa när de konfronteras med verkligt nya utmaningar.

Apples GSM Symbolic-studie om matematiskt resonemang ger ytterligare konkreta bevis. Åtta toppmoderna modeller testades, inklusive GPT-4o, Gemini, Llama och OpenAI:s o1-varianter. Resultatet: Alla modeller uppvisade fel i rumsligt resonemang, strategisk planering och aritmetik. Särskilt slående var det faktum att vissa modeller producerade korrekta svar men motiverade dem med bristfällig logik. Detta är särskilt problematiskt ur ett ekonomiskt perspektiv: Ett svar verkar korrekt, men metoden som används för att komma fram till det är det inte – och i nästa, något modifierade situation kollapsar systemet. Vanliga felmönster inkluderar ogrundade antaganden, överdriven beroende av numeriska mönster och svårigheter att översätta fysisk förståelse till matematiska steg.

Analys med hjälp av Abstraction and Reasoning Corpus (ARC), ett standardiserat test för flytande intelligens, avslöjar skillnaden mellan mänsklig och maskinell kognition i tydliga siffror: Människor löser i genomsnitt 60 procent av ARC-uppgifterna korrekt. OpenAI-modeller, i den första versionen av testet, uppnådde bara fem procent. Vid komplexa planeringsuppgifter, som att stapla block, misslyckas AI-modeller nästan helt efter mer än 20 steg. Zebrapusslet – ett klassiskt logiskt pussel – löstes korrekt av GPT-4 i endast tio procent av fallen med fyra hus. Med fem hus och fem attribut var framgångsgraden noll procent.

Resultaten gällande kompositionalitet är särskilt avslöjande: Medan stora språkmodeller förstår funktionaliteten hos enskilda operationer, har de avsevärda svårigheter att kombinera dessa operationer på ett meningsfullt sätt för att lösa komplexa uppgifter. De tenderar att tillämpa samma operationer upprepade gånger istället för att hitta rätt kombination. Detta är kärnan i deras brist på kombinatorisk förmåga: Systemet kan använda byggstenar, men det kan inte kombinera dem kreativt och lämpligt för situationen. Till detta kommer bristen på produktivitet i logisk mening – det vill säga oförmågan att självständigt generera nya, giltiga exempel från abstrakta regler. Kort sagt: AI kan reproducera vad den har sett, men den kan inte riktigt härleda vad som borde följa av det.

Xpert.Digital är en datadriven B2B-branschhubb som leds av Konrad Wolfenstein . Företaget fungerar som en extern, nästan intern lösning för industriella partners och täcker operativa luckor inom marknadsföring, innehåll och försäljning – utan att kräva ytterligare resurser från kundsidan.

Mer information här:

• Den kvasi-interna lösningen: Hur Xpert.Digital stänger operativa luckor inom B2B-marknadsföring och -försäljning – Smart Content-Driven Business

Hallucinationer som ett systemfel – Den ekonomiska risken med falsk säkerhet

De vetenskapliga begränsningarna av enbart resonemang skulle få betydande praktiska konsekvenser. Men det finns också ett fenomen som fortfarande underskattas i den ekonomiska utvärderingen av AI-system: hallucinationer. AI-modeller producerar sakligt felaktig information med stor språklig övertygande kraft, och de gör det utan någon märkbar varningssignal.

En analys från NewsGuard från 2025 visade att mer än en tredjedel – 35 procent – ​​av svaren från ledande generativa AI-verktyg innehöll falska påståenden. En bred studie av byrån maxonline undersökte 150 medelstora företag i 11 branscher i DACH-regionen (Tyskland, Österrike och Schweiz). Resultatet: ChatGPT tillhandahöll helt korrekt företagsinformation i endast tre procent av över 450 standardiserade frågor. I 45 procent av frågorna fabricerade AI:n falska fakta, medan den i ytterligare 37 procent vägrade att lämna någon information alls. Särskilt oroande: I 96 procent av de fall där AI:n nämnde namnen på chefer var dessa helt fiktiva.

De ekonomiska konsekvenserna är redan mätbara och tar konkret form. Amazon var tvungna att avbryta sitt AI-drivna rekryteringsverktyg efter att de systematiskt diskriminerat kvinnor. Zillow förlorade över 500 miljoner dollar på grund av felaktiga AI-utvärderingsalgoritmer. Deloitte Australia lämnade in en rapport till regeringen, för vilken de hade betalat cirka 440 000 australiska dollar, som innehöll hallucinatoriskt innehåll. Två tyska domstolar – Kölns tingsrätt och Frankfurt am Mains regionala domstol – behandlade redan år 2025 fall där advokater hade citerat hallucinatoriska domar från Förbundsdomstolen (BGH) i sina juridiska protokoll som faktiskt inte existerade.

Dataiku-rapporten ”Global AI Confessions”, som undersökte över 100 dataledare i stora tyska företag, målar upp en oroande bild av hur dessa risker hanteras. 76 procent av tyska dataledare rapporterade att de stötte på affärsproblem förra året på grund av AI-inducerade hallucinationer – en rekordhög siffra världen över. Samtidigt tolererar 53 procent av tyska företag AI-system som är felaktiga i mer än 20 procent av affärskritiska beslut. Och 82 procent av tyska dataledare uppgav att deras ledning underskattar den tid och ansträngning som krävs för att få AI-system i produktionsberedskap. Dessa siffror avslöjar ett systemiskt styrningsgap som medför betydande ekonomiska ansvarsrisker.

Det grundläggande problemet med hallucinationer är strukturellt: AI-modeller beräknar, baserat på sannolikheter, vilket ord eller påstående som statistiskt sett följer det föregående – utan en genuin förståelse av världen. Om träningsdata är ofullständiga eller förvrängda uppstår fel som verkar logiska men inte motsvarar verkligheten. Och dessa fel presenteras med samma språkliga övertygande kraft som korrekt information. Den växande mängden AI-genererat innehåll på webben skapar självförstärkande cykler: hallucinationer cirkulerar, förökar sig och matas in i nya träningsdata, vilket hotar att förvärra kvalitetsproblemen på lång sikt.

Arkitektur som öde – Varför problemet inte bara kan optimeras bort

En vanlig missuppfattning i den teknologiska debatten är att de beskrivna svagheterna är tillfälliga inkörningsproblem som kan övervinnas med mer datorkraft, större modeller eller bättre träningsdata. Vetenskapliga bevis motsäger detta.

Kärnproblemet ligger i själva arkitekturen. Transformatorbaserade LLM:er – det dominerande paradigmet för den nuvarande AI-vågen – är optimerade för att förutsäga nästa token baserat på statistiska mönster från träningsdata. Denna arkitektur är extremt kraftfull för exakt vad den utformades för: att bearbeta och generera naturligt språk baserat på kända mönster. Den är dock inte utformad för verkligt logiskt resonemang, kausalt-analytiskt tänkande eller generalisering av regler till verkligt nya situationer.

I sitt senare verk, "Datorn och hjärnan", menade John von Neumann att den mänskliga hjärnan – till skillnad från von Neumanns arkitekturer – inte är baserad på aritmetisk precision. Biologiska system åstadkommer flexibelt det som AI-modeller kräver enorma mängder datorkraft för – och även då misslyckas de ofta. Frågan om AI:s framtid ligger i att helt enkelt skala upp nuvarande metoder eller i ett fundamentalt annorlunda tillvägagångssätt är därför öppen och av strategisk betydelse ur ett ekonomiskt perspektiv.

Ny forskning om logiskt resonemang inom juridikvetenskap bekräftar att, trots de imponerande framsteg som gjorts av modeller som OpenAI o3 eller DeepSeek-R1, förblir förmågan att delta i rigorös logisk argumentation en öppen fråga. Dessa översikter betonar behovet av ytterligare utforskning av neurosymboliska metoder, förstärkningsinlärning och datadriven anpassning – metoder som går långt utöver att bara skala upp befintliga modeller. Men om inte ett paradigmskifte sker i den grundläggande AI-arkitekturen, kommer de kognitiva begränsningar som beskrivs sannolikt att förbli strukturellt intakta.

De ekonomiska konsekvenserna – var AI skapar värde och var den orsakar kostnader

Den vetenskapliga analysen leder till en tydlig ekonomisk slutsats: AI är inte ett universellt tankeverktyg, utan ett högt specialiserat bearbetningsverktyg. Denna differentiering har direkta konsekvenser för investeringsbeslut, tillämpningsscenarier och riskhantering.

AI skapar bevisligen värde inom tillämpningsområden som främst är beroende av datavolym, hastighet och mönsterigenkänning. Dessa inkluderar automatiserad analys av kontraktstexter för standardklausuler, kvalitetskontroll i produktion med hjälp av bildigenkänningssystem, kundsegmentering baserad på beteendedata, realtidsutvärdering av sensordata inom logistik och optimering av leveranskedjor enligt definierade parametrar. Inom alla dessa områden ersätter eller kompletterar AI mänsklig kapacitet för repetitiva, dataintensiva uppgifter – vilket resulterar i betydande effektivitetsvinster.

Användningen av AI blir ekonomiskt riskabel där komplext, flerskiktat tänkande, kausal analys, kreativ problemlösning eller generalisering till verkligt nya situationer krävs. Även om strategiska beslut, juridiska bedömningar, medicinska diagnoser för komplexa sjukdomar eller vetenskapliga slutsatser kan stödjas av AI-system, kan de inte delegeras. Den ekonomiska skada som orsakas av att okritiskt förlita sig på AI-resultat inom dessa områden är redan dokumenterad och kommer att fortsätta att öka.

Resultaten från Dataiku-rapporten avslöjar en särskild utmaning för tyska företag: 78 procent av tyska datachefer är övertygade om att deras ledningsgrupp överskattar noggrannheten hos AI-system. Samtidigt antar 76 procent av tyska datachefer att AI-genererade affärsrekommendationer tas på större allvar i deras organisationer än de från mänskliga anställda. Denna kombination av att överskatta teknologi och systematiskt undervärdera mänsklig expertis är ekonomiskt farlig. Det kan leda till felinvesteringar, ansvarsrisker och strategiska misstag.

Intelligens som en samhällskategori – Vad står på spel?

Debatten om AI:s begränsningar berör slutligen en fråga som går bortom ren företagsekonomi: Vad betyder det för ett samhälle när det i allt högre grad litar på AI-system som är tillförlitliga med massdata men strukturellt oförmögna till genuint tänkande?

En studie av Moskvas statliga och ekonomiska fakultet (HSE) undersökte hur AI-modeller bedömer mänskliga strategiska tänkandeförmågor. Resultatet är dubbelt avslöjande: Nuvarande AI-modeller som ChatGPT överskattar avsevärt mänsklig rationalitet – och förlorar därför i logiska spel mot verkliga deltagare. AI anser att mänskligheten är mycket mer rationell och logisk än den faktiskt är. Samtidigt menar forskare att den intensiva användningen av AI-verktyg kan försvaga den mänskliga förmågan till kritiskt och självständigt tänkande på lång sikt. Om människor i allt högre grad misslyckas med att dra sina egna logiska slutsatser eftersom de förlitar sig på AI-output, och AI:n själv misslyckas med att dra genuina logiska slutsatser, uppstår ett kollektivt vakuum.

Stanford AI Index 2025 dokumenterar att AI-utvecklingen gör imponerande framsteg inom många områden. Dessa framsteg ligger dock främst i bearbetningskapacitet, språklig flyt och bredden av kunskapsområden som täcks – inte i grundläggande logiskt resonemang. Dario Amodei, VD för Anthropic, har skisserat scenarier där AI-system skulle kunna överträffa Nobelpristagare redan 2026. Dessa optimistiska prognoser står i skarp kontrast till allvarliga laboratorieresultat, som visar att även avancerade modeller misslyckas i matematik i grundskolan när uppgifterna varieras något.

Debatten om artificiell intelligens – det vill säga frågan om när artificiell intelligens kommer att kunna replikera mänskligt tänkande i sin helhet – är fortfarande öppen. En analys av över 9 800 expertförutsägelser avslöjar det stora spektrumet av åsikter. Det som dock är vetenskapligt väl etablerat är att nuvarande metoder når grundläggande gränser för generaliserbart tänkande. Ett genombrott inom artificiell intelligens skulle inte vara en fortsättning på den nuvarande vägen, utan skulle kräva ett paradigmatiskt språng inom AI-arkitektur, vars tidpunkt och form är helt oklara.

Precision istället för eufori – konsekvenser för strategisk användning av AI

Den ekonomiska analysen av AI:s begränsningar leder till en rekommendation som är lika enkel som obekväm: precision istället för eufori. Mer specifikt innebär detta att koncentrera användningen av AI där dess dokumenterade styrkor ligger, och att gå vidare med försiktighet och mänsklig tillsyn där dess strukturella svagheter skapar ekonomiska och sociala risker.

För företag innebär detta att AI-stödda system för databehandling, mönsterigenkänning och generering av repetitiv text kan ge betydande produktivitetsvinster och är motiverade. AI-stödda system för komplexa beslut, orsaksanalyser, juridiska bedömningar eller strategisk planering kräver dock absolut mänsklig validering och får inte användas av autonoma beslutsfattare. Baserat på aktuell kunskap är toleranströskeln för många tyska företag gällande AI-fel i affärskritiska applikationer varken ekonomiskt eller juridiskt acceptabel.

Detta innebär en strategisk möjlighet för Tyskland. Den internationella eftersläpningen i införandet av generativ AI måste överbryggas – men inte på bekostnad av att okritiskt acceptera tekniska löften. En industrialiserad nation byggd på precision, kvalitet och teknisk tillförlitlighet har potential att etablera en medveten, riskmedveten inställning till AI som en konkurrensfördel. Värdeskapandepotentialen på 440 miljarder euro, som studier visar för Tyskland, kommer endast att realiseras om AI används där den verkligen visar sina styrkor – och inte där en övertygande fasad bara simulerar genuin kompetens.

Den intelligenta maskinen kan vara hisnande i sin hantering av enorma mängder data. Men när det gäller tänkande förblir den ett blint verktyg. Denna insikt är inte en anledning att förkasta tekniken – utan ett tvingande skäl för nyktert omdöme. Och nykterhet har alltid varit den ekonomiskt mest sunda utgångspunkten när man har att göra med transformativa teknologier.

☑️ Vårt affärsspråk är engelska eller tyska

☑️ NYTT: Korrespondens på ditt modersmål!

 

Jag och mitt team står gärna till er förfogande som er personliga rådgivare.

Du kan kontakta mig genom att fylla i kontaktformuläret här wolfenstein@xpert.digital:eller helt enkelt ringa mig på +49 7348 4088 965. Min e-postadress är

Jag ser fram emot vårt gemensamma projekt.

 

 

☑️ Stöd till små och medelstora företag inom strategi, konsultation, planering och implementering

☑️ Skapande eller omstrukturering av den digitala strategin och digitaliseringen

☑️ Utökning och optimering av internationella säljprocesser

☑️ Globala och digitala B2B-handelsplattformar

☑️ Pionjär inom affärsutveckling / marknadsföring / PR / mässor

Inom industriell B2B uppstår sällan hållbara affärsrelationer över en natt. De utvecklas steg för steg – genom synlighet, professionell relevans, återkommande kontaktpunkter och växande förtroende. Xpert.Digitals 4-stegsmodell adresserar just detta: Den erbjuder en strukturerad väg som börjar med en hanterbar ingångspunkt och kan utvecklas till djupare samarbete inom affärsutveckling vid behov.

Istället för att förlita sig på högljudda marknadsföringslöften sätter den här modellen relationen i förgrunden. Företag börjar med tydligt definierade, lättberäknade mått och bestämmer sedan, baserat på egen erfarenhet, hur långt de vill utöka samarbetet. En nyckelfaktor för denna ostörda förtroendeskapande process: Plattformen undviker helt irriterande reklam, så det redaktionella fokuset ligger enbart på företagens expertis.

Mer information här:

• Från synlighet till förtroende: Din skalbara väg med Xpert.Digital