Google Gemini difusioon: teksti genereerimise märkamatu revolutsioon

Google Gemini difusioon: teksti genereerimise märkamatu revolutsioon

Tehisintellekti maailm on pidevas liikumises. Uusi läbimurdeid ja mudeleid esitletakse peaaegu iga päev, mis seavad meie kujutlusvõime. Kuid keset muljetavaldavate häälmudelite hüpete keskel nagu GPT-4O, Claude 3 või Google'i enda Gemini 2.5 Pro kohta, oli hiljuti teade, mis oli üllatavalt vähe tähelepanu, ehkki sellel on potentsiaal muuta AI teksti genereerimist: Google Gemini difusioon. See uuenduslik mudel rakendab meetodit teksti genereerimisel, mida oleme seni teadnud peamiselt pildi omandamisest - difusioonist. Ja just see muudab selle nii põnevaks ja potentsiaalselt revolutsiooniliseks.

Difusiooni päritolu: digitaalsest mürast visuaalse säraga

Kaksikute difusiooni tõeliseks mõistmiseks peame kõigepealt vaatama tehnoloogiat, kust see oma nime ja funktsionaalsuse tuletab: difusioonimudelid pildi genereerimisel. Sellised mudelid nagu stabiilne difusioon, Midjourney või Flux on viimastel aastatel hämmastanud loomemajandust ja üldsust. Lihtsate teksti kirjeldustest (nii nimetatud „viip”) saate luua hingekosutavaid ja detailseid pilte.

Selle nime “difusioon” viitab väga keerukale, kuid metafooriliselt hõlpsasti haaramisele. Võite seda ette kujutada nagu skulptor, kes sel juhul koorib toorest mitteametlikust plokist üksikasjalikku skulptuuri - sel juhul on digitaalne müra. Protsess algab täiesti juhusliku müra, omamoodi „visuaalse udu” või „digitaalse lumega”, mis ei sisalda äratuntavat struktuuri. See müra genereeritakse SO -ga nimetatud „seemnest” (juhuslik arv, mis määrab väljundi kiiruse jaotuse).

Lugematute pisikeste sammude, nn iteratsioonide korral hakkab AI mudel seda müra müraga “müraks”. See tuvastab mustrid, mis võivad mürast kristalliseeruda ja järk -järgult teisendada need üha selgemateks struktuurideks. Esiteks tekivad ainult hägused kontuurid ja karedad kujundid, mis vaevalt tausta taustal silma paistavad. Kuid iga edasise sammu korral muutuvad detailid täpsemaks, värvid selgemaks ja read on selgemad, kuni lõpuks luuakse sidusa ja sageli üllatavalt realistlik pilt, mis vastab täpselt algse teksti kirjeldusele. See iteratiivne mittetäielik protsess on difusioonimudelite süda ja võti nende võimele luua keerukaid visuaalseid maailmu.

Kaksikute difusioon: teksti genereerimise revolutsioon nr

Kaksikute difusiooni tegelik sensatsioon on see, et see ei kasuta seda difusiooni põhimõtet - müra müra sisu genereerimiseks - mitte piltidele, vaid tekstile. Pikslite või värviväärtuste asemel töötavad Gemini difusiooni žetoonidega. Token on kõnemudelite põhiline ehitusplokk: need võivad olla üksikud sõnad, lauseosad, programmeerimiskoodi fragmendid või isegi kirjavahemärgid.

Protsess algab siin ka juhuslikult jaotunud žetoonide kaootilise “wustiga”, mis on “teksti heli”, mis on täiesti arusaamatu. See on nagu raadio, mis kajastab ainult staatilist müra või loetamatut kirjasalatit. Samm -sammult hakkab Gemini difusioon seda sümboolset segadust müraga "müra tegema". Tuginedes mustritele ja suhetele, mida mudel õppis hiiglasliku teksti andmete koolituse ajal, tunnistab see statistilisi suhteid ja moodustab juhuslikud märgid loetavateks sõnadeks, lauseteks ja lõpuks sidusaks teksti- või funktsioneeriva programmeerimiskoodiks.

See lähenemisviis erineb põhimõtteliselt kõige väljakujunenud häälmudelite funktsionaalsusest, mida me tänapäeval tunneme, näiteks GPT-4, Kaksikute seeria (välja arvatud Kaksikud difusioon ise), Lisa või Deepseek. Need töötavad automaatselt. See tähendab, et genereerite teksti rangelt ühe teise järel sõna -sõnaga märgide jaoks. Juba genereeritud sõnade põhjal valitakse statistiliselt kõige tõenäolisemaks jätkuks iga uus sõna. Võite ette kujutada, et nagu lause vasakult paremale kirjutamine, mille kohaselt viitate alati viimasele kirjutatud sõnale.

Autoorgressiivsete mudelite piirid: tagasivaade

Automaatne kompressiivne meetod andis kahtlemata muljetavaldavaid tulemusi ja viis praeguse AI hüpe märkimisväärselt. Kuid ta toob kaasa ka loomupärased puudused:

1. arvutuse intensiivsus ja aeglus

Kuna iga sümbolit tuleb järjestikku arvutada ja mudelid muutuvad suuremaks, on automaatsete põlvkonnad sageli väga kompensatsiooni intensiivsed ja eriti pikkade tekstide puhul suhteliselt aeglased. Kogu kontekst tuleb iga sammuga uuesti hinnata.

2. Vale ja paindumatus

Kunagi genereeritud tekstiosad ei saa autori kompromissitud mudeli abil tagasiulatuvalt parandada. Kui mudel määrab põlvkonna käigus, et teksti varasem osa oli ebasoodne või vale, ei saa see seda enam otse muuta. Niiöelda on see omaenda teksti tuleviku jaoks “pime”. See põhjustab sageli loogilisi vastuolusid või stiililisi pause, eriti pikemate ja keerukamate tekstide jaoks. Mõned uuemad mudelid püüavad seda probleemi lahendada nn mõttekäiku meetodil, näiteks selle leiate Deepseek R1 või GPT-4O-st. Mudel “mõtleb” mitmel etapil kohe ühega ja kogub enne lõpliku vastuse genereerimist järeldusi. Kuid see nõuab veelgi rohkem arvutusvõimsust ja aega, kuna mudel genereerib ja lükkab sisu korduvalt.

3. Väljakutsed töötlemisel

Kui autor -kompressiivne mudel on juba loodud teksti redigeerimine, peab see sageli genereerima kogu teksti nullist, isegi kui tuleb teha ainult väike muudatus. See on ebaefektiivne ja ajaliselt tarbiv.

Kaksikute difusiooni tugevused: kiirus, paindlikkus ja täpsus

Kaksikute difusiooni kasutamisel difusioonimeetod on vastus nendele väljakutsetele mitmes mõttes. See on terviklik ja iteratiivne, mis tähendab, et mudel on igal üksiku sammuga samal ajal kogu oma väljundi sisu osas.

1. muljetavaldav kiirus

See on üks silmatorkavamaid eeliseid. Kui GPT-4O genereerib umbes 50–100 märgi sekundis, Claude 3 soneti umbes 77 ja Gemini 2.0 vilguvad kuni 245 märgi, saavutab Kaksikute difusioon kiirust 500–1000 märki sekundis. Selliste platvormide kasutajate kohta nagu X (endine Twitter) ja Reddit teadete kohaselt võib mudel optimaalsetes tingimustes tekitada isegi kuni 3000 märki sekundis. Võrdluseks: 1000 žetooni vastab umbes 650–750 sõnale, mis tähendab, et Kaksikute difusioon ühe sekundiga võib luua poole kuni kolm neljandikku DIN A4 lehe tekstist. See kiirus on eriti muljetavaldav programmeerimiskoodi genereerimisel, kus mudel saab oma tõhusust täielikult mängida.

2. terviklik ja paindlik parandus

Kuna mudel on samal ajal uskumatu, reageerib see igale märgile, mis moodustab varjatud mürast kuskil oma väljundiaknas. Teksti lõpus asuv moodustav sõna võib mõjutada seda, mida järgmises etapis määratletakse alguses või keskel. Kui mudel avastab genereerimisprotsessi ajal vea, ebatäpsuse või hägustumise, saab seda parandada ja optimeerida, sõltumata sellest, kus need tekstis ilmuvad. See on otsustav eelis autoritega seotud mudelite ees, millel on tulevaste vigade jaoks „pimeala”.

3. sihitud töötlemine (teksti ja värvimine)

Sarnaselt pildi difusioonimudelitega töötab ka niinimetatud „värvimine” (märkige pildil olev ala ja laske sellel objektide lisamiseks või eemaldamiseks regenereerida), võib ka geminide difusioon töötada ka väga konkreetselt. See ei pea kogu teksti algusest lõpuni uuesti üles ehitama. Selle asemel saab see hõlpsalt “lohutada” ja seejärel “müra” ja seejärel “müra”. See võimaldab valitud lõikude või lõikude kohandamist, tõlkimist või optimeerimist oma tonaalsuses või stiilis, mõjutamata ülejäänud teksti. Teiste häälmudelite puhul on see sageli endiselt väljakutse või võtab ebaproportsionaalselt pikka aega. See avab täiesti uued võimalused teksti tõhusaks töötlemiseks ja optimeerimiseks.

4. Looduslik kõne väljund

Ehkki klassikalise teksti genereerimine võib olla mõnevõrra aeglasem kui koodiga, teatavad mõned kasutajad, et Gemini difusioon loob tekstid, mis kõlavad loomulikumalt ja inimlikumalt kui teiste suuremate keelemudelite oma. Selle põhjuseks võib olla terviklik tööviis, mis võimaldab mudelil paremini säilitada globaalset sidusust ja stiililist järjepidevust.

AI ja XR-3D-renderdusmasin: Xpert.digital viis korda asjatundlikkust põhjalikus teeninduspaketis, R&D XR, PR & SEM-IMAGE: Xpert.digital

Xpert.digital on sügavad teadmised erinevates tööstusharudes. See võimaldab meil välja töötada kohandatud strateegiad, mis on kohandatud teie konkreetse turusegmendi nõuetele ja väljakutsetele. Analüüsides pidevalt turusuundumusi ja jätkates tööstuse arengut, saame tegutseda ettenägelikkusega ja pakkuda uuenduslikke lahendusi. Kogemuste ja teadmiste kombinatsiooni abil genereerime lisaväärtust ja anname klientidele otsustava konkurentsieelise.

Lisateavet selle kohta siin:

• Kasutage Xpert.digital 5 -kordist kompetentsi ühes paketis alates 500 €/kuus

Teksti levitamise väljakutsed ja avatud küsimused

Vaatamata paljutõotavale potentsiaalile on teksti genereerimise difusioonimeetod endiselt noor ja mitte ilma oma väljakutseteta:

1. Sõltuvus sammude arvust

Väljundi kvaliteet sõltub suuresti müratappide arvust, mida mudel täidab. Pildimudelite abil saavad kasutajad neid samme sageli käsitsi seada. See on võimalik ka häälmudelitele põhinevate häälmudelite puhul, ideaaljuhul peaksid AI -süsteemid dünaamiliselt kohandama neid kiire ja soovitud teksti pikkuse keerukusega.

• Liiga vähe samme: põhjustab kvalitatiivselt halvemaid, lõpetamata või "mürarikkaid" tulemusi. Tekst näeb välja ebajärjekindlalt või killustatud.
• Liiga palju samme: võib põhjustada teksti segaduses, vastuolulisi või isegi kokku variseda. Mudel „volitab” sisu praktikas. Võib tekkida nii nimetatud denoseeriv kokkuvarisemine, milles genereeritud sisu langeb tagasi mürarikkasse olekusse, kuna mudel on üle -optimeeritud ja kaotab sidususe. See on võrreldav pildiga, mis muutub liiga agressiivse filtreerimise tõttu järsku abstraktseks ja tundmatuks.

2. teksti hallutsinatsioonide ekvivalent:

Suurimatel ja kõige arenenumatel AI-piltide generaatoril, nagu Flux või Minimax Image-01, on endiselt probleeme vigadega, mis ei saa tuleneda mudeli nõrkustest, kuid mis võivad tuleneda difusioonitehnoloogiast. See hõlmab füüsilisi kõrvalekaldeid nagu liiga palju või liiga vähe sõrmi, elementide suvalist sisestamist või moonutatud keha ja arhitektuurilisi esitusi. Küsimus on selles, mil määral võivad teksti difusioonimudelid kannatada samaväärsete hallutsinatsioonide all:

• Loogilised vastuolud: tekst algab usutavalt, kuid hilisemad sektsioonid on vastuolus eelnevate avaldustega.
• Stilistlik ja tonaalne puruneb: teksti stiil või toon lause või lõigu keskel äkki ja alusetu.
• Kaootiline tekstistruktuur: lõigud või laused on järjekindlalt paigutatud, hüpake teemade vahel või korrake end asjatult.
• Täiesti vastamata teema: kuigi tekst on grammatiliselt õige, jääb see algsest teemast või kohe vahele.
• Faktilised ebatäpsused: kuigi prostituut on peamine eesmärk, võiks mudel tõlgendada statistilisi mustreid nii, et nad koguvad teksti valet teavet.

Need nähtused on intensiivsete uuringute objektiks, kuna need võivad mõjutada usaldust genereeritud sisu vastu.

Esitluse kontekst: uute AI -teadaannete torm

Fakt, et Gemini difusioon pälvis suhteliselt vähe tähelepanu, võib tunduda paradoksaalne, kuid seda saab selgitada tema esitluse kontekstist. Google esitas selle oma iga -aastasel arendaja konverentsil I/O, mis on traditsiooniliselt uudiste ilutulestik. 2024. aasta mais oli Google'i teadaannete arvukus tõepoolest valdav. Lisaks Kaksikute difusioonile esitas Tech Group ka mitmeid muid tippklassi projekte ja tööriistu:

Kaksikud 2.5 Pro

Omal ajal Google'i enda Kaksikute mudeli kõige intelligentsem versioon, mis avaldab juba muljet selle multimodaalsuse ja jõudlusega.

Astra

Google'i nägemus AI assistendist, kes mitte ainult ei mõista häälkäsklusi, vaid saab ka visuaalset teavet töödelda ja suhelda reaalajas-samm reaalsete AI agentide poole.

VEO (versioon 3)

Video KI-le kolmas iteratsioon, mis on nüüd võimeline looma ka keelt ja heli, mis laiendab märkimisväärselt generatiivsete AI-videote ümbritsevaid oskusi.

Nutiklaasid aura

Intelligentsete prillide prototüüp, mis peaks digitaalset teavet sujuvalt reaalsesse maailma peitma.

3D -video nutikas süsteemitala

Uuenduslik süsteem ümbritsevate videokõnede jaoks, mis peaksid hägustama piire füüsilise ja digitaalse kohaloleku vahel.

Seda murranguliste uuenduste tulva silmas pidades oli keeruline vajalikku tähelepanu saada nii paljutõotav eksperiment, kui see võib olla keeruline. Mõnes mõttes läksid suuremate, vahetult rakendatavate teadaannete sagin alla, ehkki sellel on potentsiaal visata palju märkuste häälemudelite paradigmad hunnikusse.

Kasvav uurimissuund: Kaksikute difusiooni eelkäijad

Google'i difusioon võib olla seni suurim katse teksti difusiooni valdkonnas, kuid see pole kaugeltki esimesest. Idee teksti difusioonimudelite kasutamiseks on suhteliselt uus, kuid intensiivselt uuritud suund.

Juba 2023. aastal avaldas Hiina Soochowi ülikooli meeskond murrangulise uuringu. Selles esindasid nad väitekirja, et difusioonimudelid võivad ületada varasemaid häälmudeli arhitektuure, eriti tugevuse ja vigade parandamise osas. Samal aastal järgnesid esimesed algelised mudelid teksti difusiooni kontseptsiooni praktikas: difusioon-lm ja minimaalne teksti difusioon. Need teerajajad näitasid, et žetoonide deformatsioon toimib üldiselt ka teksti genereerimisel, ehkki väga varases staadiumis.

Veel üks huvitav mudel järgnes selle aasta veebruaris (2024): Elavhõbeda kodeerija Inception Labsist. See mudel keskendus peamiselt programmeerimiskoodi genereerimisele ja tõestas, et difusioonimudelid selles spetsiaalses rakendusalas võib saavutada tähelepanuväärse kiiruse, mis ületab tavapäraseid keelemudeleid.

Vahetult enne Google'i I/O, aprillis 2024, tutvustas Hongkongi ülikool ja Huawei -Huawei -le, difusiooni suure keelemudeli Dream 7B. Kuni Kaksikute difusiooni esitamiseni oli Dream 7B teksti suurim saadaolev difusioonimudel. Tema oskused ja selle aluseks olev arhitektuur köitsid juhtivate AI teadlaste tähelepanu. Andrej Karpathy, endine OpenAi teadlane, kes on tuntud oma sügava ülevaate närvivõrkude kohta, kommenteeris Dream 7B. Ta rõhutas, et sellel mudelil on potentsiaal näidata autoregressiivsete mudelitega võrreldes täiesti erinevaid psühholoogia või ainulaadseid tugevusi ja nõrkusi.

Kõik need projektid sillutasid teed Kaksikute levitamiseks ja näitavad, et teadusringkondade koguarvu on juba mõnda aega tunnustatud autoriga seotud mudelite piire ja otsis alternatiivseid lähenemisviise. Pärast Kaksikute difusiooni ideed kinnitas AI teadlane, kes ei soovinud nimega kommenteerida, et see mudel "lähenemisviisi asjakohasus" tõendusmaterjal ja "tuleks selles suunas täiendavalt uurida". Eelkõige rõhutas ta mobiilseadmete ja vähem võimsate serverite häälmudelite potentsiaali, kus difusiooni-kiled võiksid olla “täielik mänguvahetaja”. Selle põhjuseks on süüdistava protsessi loomupärane paralleelsus, mida saab paremini jaotada teatud riistvaraarhitektuuride suhtes kui automaatse mudelite järjestikune olemus.

Revolutsioonilised tagajärjed ja tuleviku uurimine

Kaksikute difusiooni kasutuselevõtt, isegi kui see oli teiste hiiglaste varjus, on oluline samm tehisintellekti arendamisel. See ei esinda mitte ainult tehnoloogilist uuendust, vaid annab märku ka võimalikust paradigma nihest häälmudelite arhitektuuris.

Mida see võib tähendada tuleviku jaoks?

1. tõhusamad AI rakendused

Tohutu kiirus ja täpse töötlemise võime võivad paljudes valdkondades generatiivseid AI -rakendusi revolutsiooniliselt muuta. Mõelge reaalajas teksti tootmisele videokõnedes, kiire koodide genereerimine arenduskeskkondades või keerukate dokumentide vahetu kokkuvõtteid.

2. AI mobiilseadmetes

Madala jõudlusega riistvara jaoks juba mainitud eelis on ülioluline. Kui difusioonimudelid saavad nutitelefonides või servaseadmetes tõhusalt töötada, suurendaks see dramaatiliselt AI juurdepääsetavust ja eeliseid, kuna vähem sõltub pilveserveritest.

3. loominguline teksti redigeerimine

Autorid, ajakirjanikud või turunduseksperdid võiksid saada maalinäitusfunktsioonist kasu konkreetselt stiili, heli või sisu kohandamiseks konkreetsetes tekstisektsioonides, hävitamata kogu dokumendi voogu. See võimaldab revisjonis varem võrreldamatut täpsust ja juhtimist.

4. Tugev ja järjekindel sisu

Kui "hallutsinatsioonide" ja "denoseerimise kokkuvarisemise" väljakutsed omandatakse, võiksid difusioonimudelid genereerida tekste, mis on loogiliselt järjepidevamalt ja stilistiliselt sidusad kui praegused mudelitel. See oleks suur samm usaldusväärsema AI põlvkonna poole.

5. uued AI oskused

Terviklik tööviis võib võimaldada difusioonimudeleid paremini lahendada muud tüüpi ülesandeid või vältida uut tüüpi vigu. Võib -olla olete etteantud ülesannete osas, kus globaalne järjepidevus on paigutatud järjestikusele täiuslikkusele, näiteks keerukate narratiivsete struktuuride loomisel või skriptide kirjutamisel.

Kaksikute difusioon: vaikne murrang AI teksti genereerimisel

Tõsiasi, et selline potentsiaalselt teedrajav mudel nagu Kaksikute difusioon - mida võib juba näha ootenimekirja enda kaudu -, on üldsuses vaevalt märgatud kiire arengu peegeldus AI piirkonnas. Uute mudelite ja paradigmade ilmumise kiirus on peadpööritav. Kuid eriti radari all lendavate katsete puhul on järgmise suure revolutsiooni tegelik potentsiaal sageli peidetud.

Jääb põnev jälgida, kuidas tekstipiirkonna difusioonimudelid arenevad ja kas nad saavad tegelikult väljakujunenud autori koondatud arhitektuure vaidlustada või isegi asendada. See, mida Google Gemini difusiooniga algatas, on midagi enamat kui lihtsalt eksperiment; See on juhend teksti genereerimise võimaliku tuleviku kohta, mis on kiirem, paindlikum ja võib -olla veelgi intuitiivsem. See on üleskutse uurida seda paljulubavat suunda rõhuasetusega, sest AI maailm võib just võtta lihtsalt ühe oma imetamise, kuid kõige olulisemad sammud.

☑️ VKE tugi strateegia, nõuannete, planeerimise ja rakendamise alal

☑️ AI strateegia loomine või ümberpaigutamine

☑️ teerajaja ettevõtluse arendamine

Konrad Wolfenstein

Aitan teid hea meelega isikliku konsultandina.

Võite minuga ühendust võtta, täites alloleva kontaktvormi või helistage mulle lihtsalt telefonil +49 89 674 804 (München) .

Ootan meie ühist projekti.

Xpert.digital on tööstuse keskus, mille fookus, digiteerimine, masinaehitus, logistika/intralogistics ja fotogalvaanilised ained.

Oma 360 ° ettevõtluse arendamise lahendusega toetame hästi tuntud ettevõtteid uuest äritegevusest pärast müüki.

Turuluure, hammastamine, turunduse automatiseerimine, sisu arendamine, PR, postkampaaniad, isikupärastatud sotsiaalmeedia ja plii turgutamine on osa meie digitaalsetest tööriistadest.

Lisateavet leiate aadressilt: www.xpert.digital - www.xpert.solar - www.xpert.plus