Gepubliceerd op: 2 augustus 2025 / Bijgewerkt op: 2 augustus 2025 – Auteur: Konrad Wolfenstein
Wie zijn de AI-pioniers? Een uitgebreide analyse van de deep learning-revolutie – Afbeelding: Xpert.Digital
Vergeet ChatGPT: het Google-artikel uit 2017 'Aandacht is alles wat je nodig hebt' is de echte reden voor de AI-explosie
Wat is het Deep Learning-tijdperk?
Het Deep Learning-tijdperk verwijst naar de periode sinds 2010 waarin de ontwikkeling van kunstmatige intelligentie (AI) fundamenteel is versneld dankzij diverse technologische doorbraken. Dit tijdperk markeert een keerpunt in de geschiedenis van AI, omdat de noodzakelijke voorwaarden voor het trainen van complexe neurale netwerken voor het eerst samenkwamen: voldoende rekenkracht, grote hoeveelheden data en verbeterde algoritmen.
De term deep learning verwijst naar meerlaagse neurale netwerken die automatisch abstracte kenmerken uit data kunnen halen. In tegenstelling tot eerdere benaderingen hoeven deze systemen niet langer handmatig geprogrammeerd te worden om de kenmerken te identificeren die ze moeten herkennen; in plaats daarvan leren ze deze patronen onafhankelijk van de trainingsdata.
Geschikt hiervoor:
Waarom begon de deep learning-revolutie in 2010?
Het jaar 2010 was cruciaal, omdat drie cruciale ontwikkelingen samenkwamen. Ten eerste werd de ImageNet-database gelanceerd, met meer dan 10 miljoen gelabelde afbeeldingen in 1000 categorieën. Daarmee werd voor het eerst een voldoende grote dataset gecreëerd voor het trainen van diepe neurale netwerken.
Ten tweede waren grafische verwerkingseenheden (GPU's) krachtig genoeg geworden om parallelle verwerking van grote hoeveelheden data mogelijk te maken. NVIDIA's CUDA-platform, geïntroduceerd in 2007, stelde onderzoekers in staat de intensieve berekeningen uit te voeren die nodig zijn voor deep learning.
Ten derde hebben algoritmische verbeteringen, met name het gebruik van de ReLU-activeringsfunctie in plaats van traditionele sigmoïde functies, de training aanzienlijk versneld. Deze convergentie maakte het uiteindelijk mogelijk om de theoretische grondslagen uit de jaren 80 in de praktijk te implementeren.
Welke doorbraak markeerde het begin van de deep learning-revolutie?
De beslissende doorbraak kwam op 30 september 2012 met de overwinning van AlexNet in de ImageNet-competitie. Het convolutionele neurale netwerk, ontwikkeld door Alex Krizhevsky, Ilya Sutskever en Geoffrey Hinton, behaalde een top-5-foutpercentage van 15,3 procent, ruim 10 procentpunten beter dan het algoritme op de tweede plaats.
AlexNet was de eerste die diepe neurale netwerken, grote datasets en GPU-computing succesvol combineerde. Opmerkelijk genoeg vond de training plaats op slechts twee NVIDIA-videokaarten in Krizhevsky's slaapkamer. Dit succes bewees de wetenschappelijke gemeenschap dat deep learning niet alleen theoretisch interessant was, maar ook praktisch superieur.
Het succes van AlexNet bracht een stortvloed aan ontwikkelingen teweeg. Al in 2015 overtrof het SENet-model zelfs de menselijke herkenningsgraad van ImageNet, met een foutpercentage van 2,25 procent. Deze dramatische verbetering binnen slechts enkele jaren toonde het enorme potentieel van deep learning-technologie aan.
Welke rol speelde de Transformer-architectuur?
In 2017 publiceerde een Google-team het baanbrekende artikel "Attention Is All You Need", waarin de Transformer-architectuur werd geïntroduceerd. Deze architectuur bracht een revolutie teweeg in de verwerking van natuurlijke taal door volledig te vertrouwen op aandachtsmechanismen en de noodzaak van terugkerende neurale netwerken te elimineren.
Het bijzondere aan Transformers is hun vermogen om data parallel te verwerken: waar eerdere modellen sequentieel, woord voor woord, moesten werken, kunnen Transformers hele zinnen tegelijk verwerken. Het zelf-aandachtsmechanisme stelt het model in staat de relaties tussen alle woorden in een zin te begrijpen, ongeacht hun positie.
De Transformer-architectuur vormde de basis voor alle moderne grootschalige taalmodellen, van BERT tot GPT tot Gemini. Het oorspronkelijke artikel werd in 2025 meer dan 173.000 keer geciteerd en wordt beschouwd als een van de meest invloedrijke wetenschappelijke werken van de 21e eeuw.
Waarom is Google de toonaangevende AI-pionier?
Volgens de analyse van Epoch AI loopt Google met ruime voorsprong voorop met 168 "opmerkelijke" AI-modellen. Deze dominantie kan worden verklaard door verschillende strategische beslissingen die het bedrijf al vroeg nam.
Google investeerde al in de jaren 2000 fors in AI-onderzoek en herkende al vroeg het potentieel van neurale netwerken. De overname van DeepMind in 2014 bracht extra expertise naar het bedrijf. De release van het TensorFlow-framework als open source in 2015 was eveneens cruciaal en versnelde de wereldwijde AI-ontwikkeling.
Googles bijdrage aan de Transformer-architectuur was bijzonder significant. Het artikel, gepubliceerd in 2017 door Google-onderzoekers, legde de basis voor de huidige generatieve AI. Voortbouwend hierop ontwikkelde Google BERT (2018), dat een revolutie teweegbracht in de natuurlijke taalverwerking, en later de Gemini-modellen.
De nauwe integratie van onderzoek en productontwikkeling bij Google droeg ook bij aan de hoge zichtbaarheid. AI-modellen worden direct geïntegreerd in Google-diensten zoals Zoeken, YouTube en Android, wat bijdraagt aan de praktische bruikbaarheid en daarmee voldoet aan de criteria voor 'opvallende' modellen.
Geschikt hiervoor:
Hoe hebben Microsoft, OpenAI en Meta zich ontwikkeld?
Microsoft staat op de tweede plaats met 43 opvallende AI-modellen. Het bedrijf profiteerde van zijn strategische partnerschap met OpenAI, waarin Microsoft miljarden dollars investeerde. Deze samenwerking stelde Microsoft in staat om GPT-modellen al vroeg te integreren in producten zoals Bing en Copilot.
OpenAI staat op de derde plaats met 40 modellen, ondanks dat het pas in 2015 werd opgericht. De ontwikkeling van de GPT-serie, van GPT-1 (2018) tot huidige modellen zoals GPT-4 en o3, heeft OpenAI gevestigd als een toonaangevende ontwikkelaar van grote taalmodellen. ChatGPT, uitgebracht in 2022, bereikte binnen vijf dagen een miljoen gebruikers en bracht AI onder de aandacht van het grote publiek.
Meta (Facebook) ontwikkelde de LLaMA-serie, bestaande uit 35 modellen, als een open-sourcealternatief voor gesloten modellen. De LLaMA-modellen, met name LLaMA 3 en de nieuwere LLaMA 4, toonden aan dat open-sourcemodellen ook kunnen concurreren met propriëtaire oplossingen.
Geschikt hiervoor:
Wat maakt een AI-model ‘het vermelden waard’?
Epoch AI definieert een AI-model als "opmerkelijk" als het aan ten minste één van de vier criteria voldoet. Ten eerste moet het een technische verbetering ten opzichte van een erkende benchmark behalen. Ten tweede moet het een hoge citatiefrequentie van meer dan 1000 citaties behalen. Ten derde kan historische relevantie een criterium zijn, zelfs als het model inmiddels technisch verouderd is. Ten vierde wordt rekening gehouden met significant praktisch gebruik.
Deze definitie richt zich niet alleen op technologische vooruitgang, maar ook op de daadwerkelijke impact en relevantie ervan in de wetenschappelijke en economische omgeving. Een model kan dus als opmerkelijk worden beschouwd als het brede praktische toepassing vindt, zelfs als het niet per se het meest technisch geavanceerde model is.
De Epoch AI-database bevat meer dan 2400 machine learning-modellen van 1950 tot heden en is daarmee de grootste openbaar toegankelijke collectie in zijn soort. Deze uitgebreide database maakt diepgaande analyses mogelijk van de AI-ontwikkeling over meer dan 70 jaar.
Hoe ontwikkelde AI zich vóór het tijdperk van deep learning?
De geschiedenis van kunstmatige intelligentie vóór 2010 werd gekenmerkt door cycli van optimisme en teleurstelling. De jaren 50 en 60 kenden een groot optimisme, gesymboliseerd door Frank Rosenblatts perceptron (1957). Deze vroege neurale netwerken wekten hoop op de naderende komst van kunstmatige intelligentie.
De eerste AI-winter begon begin jaren zeventig, aangewakkerd door het boek van Marvin Minsky en Seymour Papert over de grenzen van perceptrons (1969). Het Lighthill-rapport uit 1973 aan het Britse parlement leidde tot drastische bezuinigingen op onderzoeksfinanciering. Deze fase duurde tot ongeveer 1980 en vertraagde het AI-onderzoek aanzienlijk.
In de jaren 80 was er een heropleving dankzij expertsystemen zoals MYCIN, een medisch diagnostisch systeem. Tegelijkertijd ontwikkelden Geoffrey Hinton, David Rumelhart en Ronald Williams in 1986 het backpropagation-algoritme, dat neurale netwerken trainbaar maakte. Yann LeCun ontwikkelde al in 1989 LeNet, een vroeg convolutioneel neuraal netwerk voor handschriftherkenning.
De tweede AI-winter volgde eind jaren tachtig, toen de hoge verwachtingen voor expertsystemen en LISP-machines de bodem in werden geslagen. Deze fase duurde tot de jaren negentig en werd gekenmerkt door scepsis ten opzichte van neurale netwerken.
Welke technologische fundamenten maakten deep learning mogelijk?
Drie belangrijke doorbraken maakten de revolutie in deep learning mogelijk. De ontwikkeling van krachtige GPU's was fundamenteel, omdat ze de parallelle verwerking van grote hoeveelheden data mogelijk maakten. NVIDIA's CUDA-platform maakte in 2007 GPU-computing toegankelijk voor machine learning.
Grote, hoogwaardige datasets waren de tweede vereiste. ImageNet, gepubliceerd in 2010 door Fei-Fei Li, was de eerste die een dataset met meer dan 10 miljoen gelabelde afbeeldingen aanbood. Deze hoeveelheid data was nodig om diepe neurale netwerken effectief te trainen.
Algoritmische verbeteringen vormden de derde pijler. Het gebruik van de ReLU-activeringsfunctie in plaats van sigmoïde functies versnelde de training aanzienlijk. Verbeterde optimalisatieprocedures en regularisatietechnieken zoals dropout hielpen het overfittingprobleem op te lossen.
Hoe ontwikkelden de computerkosten voor AI-trainingen zich?
De kosten voor het trainen van AI-modellen zijn exponentieel gestegen. Het oorspronkelijke Transformer-model kostte in 2017 slechts $ 930 om te trainen. BERT-Large kostte $ 3.300 in 2018, terwijl GPT-3 in 2020 ongeveer $ 4,3 miljoen kostte.
Moderne modellen bereiken nog extremere kosten: de GPT-4 kostte naar schatting $ 78,4 miljoen, terwijl de Gemini Ultra van Google, met een prijskaartje van ongeveer $ 191,4 miljoen, mogelijk het duurste model tot nu toe is. Deze trend weerspiegelt de toenemende complexiteit en omvang van de modellen.
Volgens Epoch AI verdubbelt de rekenkracht die nodig is voor training ongeveer elke vijf maanden. Deze ontwikkeling overtreft de Wet van Moore ruimschoots en toont de snelle opschaling van AI-onderzoek aan. Tegelijkertijd leidt het tot een concentratie van AI-ontwikkeling in de handen van een paar bedrijven met de benodigde middelen.
Geschikt hiervoor:
Welke uitdagingen zijn er voor verdere AI-ontwikkeling?
De ontwikkeling van AI staat voor een aantal grote uitdagingen. Redeneermodellen die geoptimaliseerd zijn voor complexe logische redeneringen zouden al in 2026 hun schaalgrenzen kunnen bereiken. De enorme rekenkosten beperken de kring van actoren die kunnen deelnemen aan baanbrekend AI-onderzoek.
Technische problemen zoals hallucinaties, waarbij AI-systemen valse informatie genereren, zijn nog niet volledig opgelost. Tegelijkertijd rijzen er ethische vragen over de mogelijkheid om misleidend echte content te genereren, zoals blijkt uit de virale AI-afbeelding van de paus in een donsjas.
De beschikbaarheid van hoogwaardige trainingsdata wordt een steeds groter knelpunt. Veel modellen zijn al getraind met behulp van een groot deel van de beschikbare internetdata, wat nieuwe benaderingen voor datageneratie vereist.
Welke invloed heeft de ontwikkeling van AI op de maatschappij?
De deep learning-revolutie heeft al een enorme maatschappelijke impact. AI-systemen worden gebruikt in cruciale sectoren zoals medische diagnostiek, financiën en zelfrijdende auto's. Het potentieel voor positieve verandering is enorm, van het versnellen van wetenschappelijke ontdekkingen tot het personaliseren van onderwijs.
Tegelijkertijd ontstaan er nieuwe risico's. De mogelijkheid om realistische nepcontent te creëren, bedreigt de integriteit van informatie. Banen kunnen in gevaar komen door automatisering, en het Duitse Ministerie van Arbeid verwacht dat er in 2035 geen baan meer zal zijn zonder AI-software.
De concentratie van AI-macht in een paar technologiebedrijven roept vragen op over de democratische controle over deze krachtige technologie. Experts zoals Geoffrey Hinton, een van de pioniers van deep learning, waarschuwen voor de potentiële gevaren van toekomstige AI-systemen.
De AI-pioniers van het Deep Learning-tijdperk hebben een technologie gecreëerd die de potentie heeft om de mensheid fundamenteel te transformeren. Googles leiderschap in de ontwikkeling van 168 opmerkelijke AI-modellen, gevolgd door Microsoft, OpenAI en Meta, toont de concentratie van innovatiekracht bij een beperkt aantal spelers. De Deep Learning-revolutie, die al sinds 2010 gaande is en is geïnitieerd door doorbraken zoals AlexNet en de Transformer-architectuur, heeft ons dagelijks leven al getransformeerd en zal dat in de toekomst nog verder doen. De uitdaging is om deze krachtige technologie ten behoeve van de mensheid te benutten en tegelijkertijd de risico's ervan te minimaliseren.
Geschikt hiervoor:
Uw AI -transformatie, AI -integratie en AI Platform Industry Expert
☑️ onze zakelijke taal is Engels of Duits
☑️ Nieuw: correspondentie in uw nationale taal!
Konrad Wolfenstein
Ik ben blij dat ik beschikbaar ben voor jou en mijn team als een persoonlijk consultant.
U kunt contact met mij opnemen door het contactformulier hier in te vullen of u gewoon te bellen op +49 89 674 804 (München) . Mijn e -mailadres is: Wolfenstein ∂ Xpert.Digital
Ik kijk uit naar ons gezamenlijke project.
