Kik a mesterséges intelligencia úttörői? A mélytanulási forradalom átfogó elemzése – Kép: Xpert.Digital
Felejtsd el a ChatGPT-t: A 2017-es „A figyelem minden, amire szükséged van” című Google-tanulmány az igazi oka a mesterséges intelligencia robbanásának
Mit jelent a mélytanulás korszaka?
A mélytanulás korszaka a 2010 óta eltelt időszakra utal, amelyben a mesterséges intelligencia fejlődése alapvetően felgyorsult számos technológiai áttörésnek köszönhetően. Ez a korszak fordulópontot jelent a mesterséges intelligencia történetében, mivel először jöttek létre a komplex neurális hálózatok betanításához szükséges előfeltételek: elegendő számítási teljesítmény, nagy adathalmazok és továbbfejlesztett algoritmusok.
A mélytanulás kifejezés olyan többrétegű neurális hálózatokra utal, amelyek automatikusan képesek absztrakt jellemzőket kinyerni az adatokból. A korábbi megközelítésekkel ellentétben ezeket a rendszereket már nem kell manuálisan programozni az egyes jellemzők felismeréséhez; ehelyett ezeket a mintákat a betanítási adatokból függetlenül tanulják meg.
Ehhez kapcsolódóan:
Miért kezdődött a mélytanulási forradalom 2010-ben?
A 2010-es év sorsdöntő volt, mivel három kritikus fejlesztés találkozott. Először is megjelent az ImageNet adatbázis, amely több mint 10 millió címkézett képet tartalmazott 1000 kategóriában, így először biztosított kellően nagy adathalmazt a mély neurális hálózatok betanításához.
Másodszor, a grafikus processzorok (GPU-k) elég erőssé váltak ahhoz, hogy lehetővé tegyék nagy mennyiségű adat párhuzamos feldolgozását. Az NVIDIA 2007-ben bemutatott CUDA platformja lehetővé tette a kutatók számára, hogy elvégezzék a mélytanuláshoz szükséges intenzív számításokat.
Harmadszor, az algoritmikus fejlesztések, különösen a ReLU aktivációs függvény használata a hagyományos szigmoid függvények helyett, jelentősen felgyorsították a betanítást. Ez a konvergencia végre lehetővé tette az 1980-as évek elméleti alapjainak gyakorlatba ültetését.
Milyen áttörés jelentette a mélytanulási forradalom kezdetét?
A döntő áttörés 2012. szeptember 30-án jött el, amikor az AlexNet győzelmet aratott az ImageNet versenyen. Az Alex Krizhevsky, Ilya Sutskever és Geoffrey Hinton által kifejlesztett konvolúciós neurális hálózat az 5 legjobb algoritmus között 15,3 százalékos hibaszázalékot ért el, ami több mint 10 százalékponttal jobb, mint a második helyezett algoritmusé.
Az AlexNet volt a mély neurális hálózatok, a nagy adathalmazok és a GPU-számítástechnika első sikeres kombinációja. Figyelemre méltó, hogy a képzés mindössze két NVIDIA grafikus kártyán zajlott Krizhevsky hálószobájában. Ez a siker bebizonyította a tudományos közösség számára, hogy a mély tanulás nemcsak elméletileg érdekes, hanem gyakorlatilag is jobb.
Az AlexNet sikere fejlesztések sorozatát indította el. Már 2015-ben a SENet modell 2,25 százalékos hibaszázalékával meghaladta az ImageNet emberi felismerési arányát. Ez a drámai javulás mindössze néhány éven belül jól mutatja a mélytanulási technológia hatalmas potenciálját.
Milyen szerepet játszott a Transformer architektúra?
2017-ben egy Google-csapat publikálta az úttörő „Attention Is All You Need” (Csak a figyelemre van szükséged) című tanulmányt, amelyben bemutatta a Transformer architektúrát. Ez az architektúra forradalmasította a természetes nyelvi feldolgozást azáltal, hogy teljes mértékben a figyelmi mechanizmusokra támaszkodott, és kiküszöbölte a visszatérő neurális hálózatok szükségességét.
A transzformátorok különlegességét a párhuzamos feldolgozás képessége adja: míg a korábbi modelleknek szekvenciálisan, szavanként kellett dolgozniuk, a transzformátorok képesek teljes mondatokat egyszerre feldolgozni. Az önfigyelő mechanizmus lehetővé teszi a modell számára, hogy megértse a mondat összes szavának kapcsolatát, függetlenül azok pozíciójától.
A Transformer architektúra lett az alapja az összes modern jelentős nyelvi modellnek, a BERT-től és a GPT-től a Geminiig. Az eredeti cikket 2025-ig több mint 173 000 alkalommal idézték, és a 21. század egyik legbefolyásosabb tudományos művének tartják.
Miért a Google a vezető mesterséges intelligencia úttörője?
Az Epoch AI elemzése szerint a Google 168 „jelentős” MI-modellel rendelkezik, és jelentős előnnyel vezeti a mezőnyt. Ez a dominancia számos, a vállalat által a kezdeti időszakban hozott stratégiai döntéssel magyarázható.
A Google már a 2000-es években jelentős összegeket fektetett be a mesterséges intelligencia kutatásába, és korán felismerte a neurális hálózatokban rejlő lehetőségeket. A DeepMind 2014-es felvásárlása további szakértelmet hozott a vállalathoz. Döntő fontosságú, hogy a TensorFlow keretrendszer 2015-ös nyílt forráskódú kiadása felgyorsította a mesterséges intelligencia fejlesztését világszerte.
A Google hozzájárulása a Transformer architektúrához különösen jelentős volt. A Google kutatói által 2017-ben publikált tanulmány lerakta a mai generatív mesterséges intelligencia alapjait. Erre építve a Google kifejlesztette a BERT-et (2018), amely forradalmasította a természetes nyelvi feldolgozást, majd később a Gemini modelleket.
A Google kutatásának és termékfejlesztésének szoros integrációja tovább hozzájárult a vállalat magas láthatóságához. A mesterséges intelligencia modelljei közvetlenül integrálódnak olyan Google-szolgáltatásokba, mint a keresés, a YouTube és az Android, ami hozzájárul a gyakorlati felhasználáshoz, és így a „figyelemre méltó” modellek kritériumaihoz.
Ehhez kapcsolódóan:
Hogyan fejlődött a Microsoft, az OpenAI és a Meta?
A Microsoft a második helyen áll 43 említésre méltó MI-modellel. A vállalat profitált az OpenAI-val kötött stratégiai partnerségéből, amelybe a Microsoft több milliárd dollárt fektetett be. Ez az együttműködés lehetővé tette a Microsoft számára, hogy a GPT-modelleket már a kezdeti szakaszban integrálja olyan termékekbe, mint a Bing és a Copilot.
Az OpenAI 40 modelljével a harmadik helyen áll, annak ellenére, hogy csak 2015-ben alapították. A GPT sorozat fejlesztése, a GPT-1-től (2018) a jelenlegi modellekig, mint a GPT-4 és az o3, az OpenAI-t a nagy nyelvi modellek vezető fejlesztőjévé tette. A 2022-ben megjelent ChatGPT öt napon belül elérte az egymillió felhasználót, ezzel a mesterséges intelligenciát a nyilvánosság elé tárva.
A Meta (Facebook) fejlesztette ki az LLaMA sorozatot 35 modellel, nyílt forráskódú alternatívaként a zárt modellekhez képest. Az LLaMA modellek, különösen az LLaMA 3 és az újabb LLaMA 4, bebizonyították, hogy a nyílt forráskódú modellek képesek versenyképesek lenni a zárt megoldásokkal.
Ehhez kapcsolódóan:
Mi tesz egy MI-modellt „figyelemre méltóvá”?
Az Epoch AI egy MI-modellt „figyelemre méltónak” minősít, ha az legalább egy kritériumnak megfelel a négy közül. Először is, technikai fejlődést kell mutatnia egy elismert referenciaértékhez képest. Másodszor, magas, 1000-nél magasabb hivatkozási arányt kell elérnie. Harmadszor, a történelmi relevancia kritérium lehet, még akkor is, ha a modell mára technikailag elavult. Negyedszer, a jelentős gyakorlati hasznosságot veszik figyelembe.
Ez a definíció nemcsak a technológiai fejlődésre összpontosít, hanem a tudományos és gazdasági szférában a tényleges hatásokra és relevanciára is. Egy modell tehát akkor tekinthető figyelemre méltónak, ha széles körű gyakorlati alkalmazást talál, még akkor is, ha nem feltétlenül a legfejlettebb technológiai modell.
Az Epoch AI adatbázis több mint 2400 gépi tanulási modellt tartalmaz 1950-től napjainkig, így ez a maga nemében a legnagyobb nyilvánosan elérhető gyűjtemény. Ez az átfogó adathalmaz lehetővé teszi a mesterséges intelligencia fejlődésének több mint 70 évre visszatekintő, megalapozott elemzését.
Hogyan fejlődött a mesterséges intelligencia a mélytanulás korszaka előtt?
A mesterséges intelligencia történetét 2010 előtt az optimizmus és a csalódás ciklusai jellemezték. Az 1950-es és 1960-as években nagy optimizmus uralkodott, amit Frank Rosenblatt Perceptronja (1957) jelképez. Ezek a korai neurális hálózatok reményt keltettek a mesterséges intelligencia közelgő megjelenésével kapcsolatban.
Az első mesterséges intelligencia-tél az 1970-es évek elején kezdődött, melyet Marvin Minsky és Seymour Papert perceptronok határairól szóló könyve (1969) váltott ki. Az 1973-as, a brit parlament számára készült Lighthill-jelentés a kutatási finanszírozás drasztikus csökkentéséhez vezetett. Ez az időszak nagyjából 1980-ig tartott, és jelentősen lelassította a mesterséges intelligencia kutatását.
Az 1980-as években a fellendülés olyan szakértői rendszereknek köszönhető, mint a MYCIN, egy orvosi diagnosztikai rendszer. Ugyanekkor, 1986-ban Geoffrey Hinton, David Rumelhart és Ronald Williams kifejlesztették a visszaterjesztési algoritmust, amely taníthatóvá tette a neurális hálózatokat. Már 1989-ben Yann LeCun kifejlesztette a LeNet-et, egy korai konvolúciós neurális hálózatot a kézírás-felismeréshez.
A második mesterséges intelligencia-tél az 1980-as évek végén következett, amikor a szakértői rendszerekkel és a LISP-gépekkel szembeni magas elvárások csalódtak. Ez a szakasz az 1990-es évekig tartott, és a neurális hálózatokkal szembeni szkepticizmus jellemezte.
Milyen technológiai alapok tették lehetővé a mélytanulást?
Három kulcsfontosságú áttörés tette lehetővé a mélytanulási forradalmat. A nagy teljesítményű GPU-k fejlesztése alapvető fontosságú volt, mivel ezek lehetővé tették nagy mennyiségű adat párhuzamos feldolgozását. Az NVIDIA CUDA platformja 2007-től elérhetővé tette a GPU-alapú számítástechnikát a gépi tanulás számára.
A második követelmény a nagyméretű, kiváló minőségű adatkészletek voltak. A Fei-Fei Li által 2010-ben kiadott ImageNet volt az első, amely több mint 10 millió címkézett képet tartalmazó adatkészletet kínált. Ez az adatmennyiség szükséges volt a mély neurális hálózatok hatékony betanításához.
Az algoritmikus fejlesztések alkották a harmadik pillért. A ReLU aktivációs függvény használata a szigmoid függvények helyett jelentősen felgyorsította a betanítást. A továbbfejlesztett optimalizálási módszerek és regularizációs technikák, mint például a dropout, segítettek megoldani a túlillesztés problémáját.
Hogyan alakultak a mesterséges intelligencia képzésének számítási költségei?
A mesterséges intelligencia modellek betanítási költségei exponenciálisan emelkedtek. Az eredeti Transformer modell betanítása 2017-ben mindössze 930 dollárba került. A BERT-Large modell 2018-ban már 3300 dollárba került, míg a GPT-3 2020-ban körülbelül 4,3 millió dollárt emésztett fel.
A modern modellek ára még ennél is magasabb: a GPT-4 becslések szerint 78,4 millió dollárba került, míg a Google Gemini Ultra modellje, körülbelül 191,4 millió dollárral, a mai napig a legdrágábban betanított modell lehet. Ez a tendencia a modellek növekvő összetettségét és méretét tükrözi.
Az Epoch AI szerint a képzéshez szükséges számítási teljesítmény körülbelül öthavonta megduplázódik. Ez a fejlődés messze meghaladja Moore törvényét, és a mesterséges intelligencia kutatásának gyors skálázódását mutatja. Ugyanakkor ez ahhoz vezet, hogy a mesterséges intelligencia fejlesztése néhány, a szükséges erőforrásokkal rendelkező vállalat kezében koncentrálódik.
Ehhez kapcsolódóan:
Milyen kihívások állnak a mesterséges intelligencia fejlesztése előtt?
A mesterséges intelligencia fejlesztése számos jelentős kihívással néz szembe. Az összetett logikai gondolkodásra optimalizált érvelési modellek már 2026-ban elérhetik skálázhatósági korlátaikat. A hatalmas számítási költségek korlátozzák azon szereplők körét, akik részt vehetnek az élvonalbeli mesterséges intelligencia-kutatásban.
Az olyan technikai problémák, mint a hallucinációk, ahol a mesterséges intelligencia rendszerek hamis információkat generálnak, még nem oldódtak meg teljesen. Ugyanakkor etikai kérdések merülnek fel a megtévesztően realisztikus tartalmak generálásának lehetőségével kapcsolatban, amint azt a pápa pehelykabátos, vírusként terjedő mesterséges intelligencia általi képe is mutatja.
A kiváló minőségű betanítási adatok elérhetősége egyre inkább szűk keresztmetszetet jelent. Számos modellt már betanítottak a rendelkezésre álló internetes adatok nagy részének felhasználásával, ami új megközelítéseket tesz szükségessé az adatgenerálásban.
Hogyan hat a társadalomra a mesterséges intelligencia fejlesztése?
A mélytanulási forradalom már most is hatalmas társadalmi hatást gyakorol. A mesterséges intelligencia rendszereket olyan kritikus területeken használják, mint az orvosi diagnosztika, a pénzügyek és az önvezető járművek. A pozitív változás lehetősége óriási, a tudományos felfedezések felgyorsításától az oktatás személyre szabásáig.
Ugyanakkor új kockázatok is felmerülnek. A valósághű, hamis tartalmak létrehozásának képessége veszélyezteti az információk integritását. Az automatizálás veszélyeztetheti a munkahelyeket, a Szövetségi Munkaügyi Minisztérium előrejelzése szerint 2035-re egyetlen munkahely sem lesz lehetséges mesterséges intelligencia szoftver nélkül.
A mesterséges intelligencia hatalmának néhány technológiai vállalat kezében való koncentrációja kérdéseket vet fel e hatalmas technológia demokratikus ellenőrzésével kapcsolatban. Szakértők, mint például Geoffrey Hinton, a mélytanulás egyik úttörője, figyelmeztettek a jövőbeli mesterséges intelligenciarendszerek lehetséges veszélyeire.
A mélytanulás korszakának mesterséges intelligencia úttörői olyan technológiát hoztak létre, amely alapvetően átalakíthatja az emberiséget. A Google vezető szerepe 168 jelentős mesterséges intelligencia modell fejlesztésében, őt követi a Microsoft, az OpenAI és a Meta, ami azt mutatja, hogy az innovációs erő néhány kulcsszereplő kezében koncentrálódik. A 2010-ben kezdődött, és olyan áttörések által elindított mélytanulási forradalom, mint az AlexNet és a Transformer architektúra, már megváltoztatta mindennapi életünket, és a jövőben még mélyrehatóbban fogja ezt tenni. A kihívás abban rejlik, hogy ezt a hatékony technológiát az emberiség javára hasznosítsuk, miközben minimalizáljuk a kockázatait.
Ehhez kapcsolódóan:
Az Ön mesterséges intelligencia-átalakítási, mesterséges intelligencia-integrációs és mesterséges intelligencia-platform iparági szakértője
☑️ Üzleti nyelvünk az angol vagy a német
☑️ ÚJ: Levelezés az anyanyelveden!
Konrad Wolfenstein
Én és a csapatom örömmel állunk rendelkezésére személyes tanácsadóként.
Kapcsolatba léphetsz velem a kapcsolatfelvételi űrlap kitöltésével itt wolfenstein@xpert.digital:, vagy egyszerűen hívj a +49 7348 4088 965 telefonszámon. Az e-mail címem
Alig várom a közös projektünket.
