Dyfuzja Google Gemini: niezauważona rewolucja w generowaniu tekstu

Dyfuzja Google Gemini: niezauważona rewolucja w generowaniu tekstu

Świat sztucznej inteligencji jest w ciągłym ruchu. Nowe przełamy i modele są prezentowane prawie codziennie, które podważają naszą wyobraźnię. Ale w trakcie szumu o imponujących modelach głosowych, takich jak GPT-4O, Claude 3 lub Google's Own Gemini 2.5 Pro, niedawno było ogłoszenie, które było zaskakująco mało uwagi, chociaż może to zmienić sposób, w jaki myślimy o generowaniu tekstu AI: Google Gemini Diffusion. Ten innowacyjny model stosuje metodę do generowania tekstu, którą do tej pory znamy głównie z akwizycji obrazu - dyfuzji. I to właśnie sprawia, że ​​jest to tak fascynujące i potencjalnie rewolucyjne.

Pochodzenie dyfuzji: od cyfrowego szumu do wizualnego błyskotliwości

Aby naprawdę zrozumieć dyfuzję Gemini, najpierw musimy przyjrzeć się technologii, z której czerpie swoją nazwę i funkcjonalność: modele dyfuzji w generowaniu obrazu. Modele takie jak stabilna dyfuzja, Midjourney lub Flux zaskoczyły w ostatnich latach branżę kreatywną i ogół społeczeństwa. Możesz tworzyć zapierające dech w piersiach i szczegółowe obrazy z prostych opisów tekstu (zatem „podpowiedź”).

„Dyfuzja” w nazwie odnosi się do wysoce złożonego, ale metaforycznie łatwego do uchwycenia. Możesz sobie wyobrazić to jak rzeźbiarz, który w tym przypadku podskakuje szczegółową rzeźbę z surowego, nieformalnego bloku - w tym przypadku szumu cyfrowego. Proces rozpoczyna się od całkowicie losowego szumu, rodzaju „mgły wizualnej” lub „cyfrowego śniegu”, który nie zawiera żadnej rozpoznawalnej struktury. Hałas ten jest generowany z „nasion” (losowej liczby, która określa rozkład pośpiechu wyjściowego).

W niezliczonych drobnych krokach, tak zwane „iteracje”, model AI zaczyna „hałas” ten hałas. Identyfikuje wzory, które mogą krystalizować z hałasu i stopniowo przekształcają je w coraz bardziej wyraźniejsze struktury. Po pierwsze, pojawiają się tylko zamazane kontury i szorstkie kształty, które prawie nie wyróżniają się z tła tła. Ale z każdym kolejnym krokiem szczegóły stają się bardziej precyzyjne, kolory wyraźniejsze i linie są ostrzejsze, dopóki nie powstanie spójny i często zaskakująco realistyczny obraz, który dokładnie odpowiada oryginalnego opisu tekstu. Ten iteracyjny niekompletny proces jest sercem modeli dyfuzji i kluczem do ich zdolności do tworzenia złożonych światów wizualnych z niczego.

Dyfuzja Bliźnięta: Rewolucja generowania tekstu według

Rzeczywiste wrażenie dyfuzji Gemini polega na tym, że nie wykorzystuje tej zasady dyfuzji - szumu szumu do generowania zawartości - nie do obrazów, ale na tekście. Zamiast pikseli lub wartości kolorów, Gemini działa dyfuzją z tokenami. Token to podstawowe elementy konstrukcyjne modeli głosowych: mogą to być indywidualne słowa, części zdania, fragmenty kodu programowania, a nawet znaki interpunkcyjne.

Proces ten zaczyna się również tutaj od chaotycznego „Wust” losowo rozproszonych tokenów, „dźwiękiem tekstu”, który jest całkowicie niezrozumiały. To jest jak radio, które odzwierciedla jedynie hałas statyczny lub nieczytelną sałatkę z listami. Krok po kroku dyfuzja Bliźnięta zaczyna „hałasować” to zamieszanie tokenu. W oparciu o wzorce i relacje, których model nauczył się podczas szkolenia na temat gigantycznej ilości danych tekstowych, rozpoznaje relacje statystyczne i tworzy losowe tokeny w czytelne słowa, zdania, a na koniec spójny kod programowania tekstowego lub funkcjonującego.

Podejście to zasadniczo różni się od funkcjonalności najbardziej ustalonych modeli głosowych, które znamy modele, takie jak GPT-4, seria Gemini (z wyjątkiem samej dyfuzji Gemini), Lamy lub Deepseek. Te działają automatyczne kompresyjne. Oznacza to, że generujesz tekst ściśle jeden po drugim, słowo na słowo, token dla tokenów. Na podstawie już wygenerowanych słów każde nowe słowo jest wybierane jako najbardziej statystycznie najprawdopodobniej kontynuacja. Możesz sobie wyobrazić, że podobnie jak pisanie zdania od lewej do prawej, dzięki czemu zawsze odwołujesz się do ostatniego słowa pisanego.

Granice modeli autorgresywnych: spojrzenie wstecz

Metoda auto-ściskająca niewątpliwie zapewniła imponujące wyniki i znacznie doprowadziła do obecnego szupie AI. Ale przynosi także nieodłączne wady:

1. Intensywność obliczeń i powolność

Ponieważ każdy token musi być obliczany sekwencyjnie, a modele stają się coraz większe, generacje automatyczne są często bardzo kompensacyjne i, szczególnie w przypadku długich tekstów, są stosunkowo powolne. Cały kontekst musi zostać ponownie oceniony na każdym kroku.

2. Niepoprawność i nieelastyczność

Części tekstowe wygenerowane raz nie mogą być retrospektywnie skorygowane przez model kompresowany przez autora. Jeśli model określi w trakcie generacji, że wcześniejsza część tekstu była niekorzystna lub zła, nie może już go zmienić bezpośrednio. Tak powiem „ślepy” na przyszłość własnego tekstu. To często prowadzi do logicznych niespójności lub przerw stylistycznych, szczególnie w przypadku dłuższych i bardziej złożonych tekstów. Niektóre nowsze modele starają się rozwiązać ten problem za pomocą tak zwanej metody „rozumowania”, takiej jak ta można znaleźć w Deepseek R1 lub GPT-4O. Model „myśli” w kilku etapach nad jednym niezwłocznie i zbiera wnioski przed wygenerowaniem ostatecznej odpowiedzi. Wymaga to jednak jeszcze większej mocy i czasu obliczeniowego, ponieważ model wielokrotnie generuje i odrzuca treść.

3. Wyzwania związane z przetwarzaniem

Jeśli model kompresyjny autora ma na celu edycję już wygenerowanego tekstu, często musi generować cały tekst od zera, nawet jeśli należy dokonać niewielkiej zmiany. Jest to nieefektywne i czasowe czasowe.

Mocne strony dyfuzji gemini: prędkość, elastyczność i precyzja

Metoda dyfuzji, która wykorzystuje dyfuzję Gemini, jest odpowiedzią na te wyzwania na wiele sposobów. Jest całościowy i iteracyjny, co oznacza, że ​​model jest jednocześnie w całej zawartości jego wyjścia z każdym krokiem.

1. Imponująca prędkość

To jedna z najbardziej uderzających zalet. Podczas gdy GPT-4O generuje około 50 do 100 tokenów na sekundę, Claude 3 Sonnet około 77 i Gemini 2.0 miga do 245 tokenów, dyfuzja Gemini osiąga prędkości od 500 do 1000 tokenów na sekundę. Według doniesień użytkowników na platformach takich jak X (wcześniej Twitter) i Reddit, model może nawet wygenerować do 3000 tokenów na sekundę w optymalnych warunkach. Dla porównania: 1000 tokenów odpowiada około 650 do 750 słów, co oznacza, że ​​dyfuzja Gemini w jednej sekundzie może stworzyć pół do trzech czwartych tekstu DIN A4. Ta prędkość jest szczególnie imponująca przy generowaniu kodu programowania, w którym model może w pełni odtwarzać swoją wydajność.

2. Holistyczna i elastyczna korekta

Ponieważ model jest jednocześnie niesamowity, reaguje na każdy token, który tworzy się z utajonego szumu gdzieś w oknie wyjściowym. Słowo formujące na końcu tekstu może wpływać na to, co jest określone na następnym kroku na początku lub na środku. Jeśli model odkryje błąd, niedokładność lub rozmycie podczas procesu generowania, można go poprawić i zoptymalizować, niezależnie od tego, gdzie pojawiają się w tekście. Jest to decydująca przewaga nad modelami kompresowanymi przez autora, które mają „martwy punkt” na przyszłe błędy.

3. Przetwarzanie ukierunkowane (malowanie tekstu)

Podobnie jak modele dyfuzji obrazu, tak zwane „inbalowanie” działa (zaznacz obszar na obrazie i pozwól mu zregenerować do dodawania lub usuwania obiektów), dyfuzja Bliźnięta może również działać bardzo konkretnie. Nie musi odbudowywać całego tekstu od początku do końca. Zamiast tego może łatwo być „opuszczony”, a następnie „hałas” ponownie, a następnie „hałas”. Umożliwia to dostosowanie, tłumaczenie lub optymalizację wybranych fragmentów lub akapitów w twojej tonacji lub stylu bez wpływu na resztę tekstu. W innych modelach głosowych często jest to wyzwanie lub zajmuje nieproporcjonalnie długo. Otwiera to zupełnie nowe możliwości wydajnego przetwarzania tekstu i optymalizacji.

4. Naturalne wyjście mowy

Chociaż generowanie klasycznego tekstu może być nieco wolniejsze niż w przypadku kodu, niektórzy użytkownicy informują, że dyfuzja Gemini tworzy teksty, które brzmią bardziej naturalnie i ludzkie niż w innych głównych modelach językowych. Może to wynikać z całościowego sposobu pracy, który umożliwia modelu lepsze utrzymanie globalnej spójności i spójności stylistycznej.

Maszyna do renderowania 3D AI i XR: pięciokrotna wiedza Xpert.Digital w kompleksowym pakiecie usług, R&D XR, PR i SEM - Zdjęcie: Xpert.Digital

Xpert.Digital posiada dogłębną wiedzę na temat różnych branż. Dzięki temu możemy opracowywać strategie „szyte na miarę”, które są dokładnie dopasowane do wymagań i wyzwań konkretnego segmentu rynku. Dzięki ciągłej analizie trendów rynkowych i śledzeniu rozwoju branży możemy działać dalekowzrocznie i oferować innowacyjne rozwiązania. Dzięki połączeniu doświadczenia i wiedzy generujemy wartość dodaną i dajemy naszym klientom zdecydowaną przewagę konkurencyjną.

Więcej na ten temat tutaj:

• Wykorzystaj 5-krotną wiedzę Xpert.Digital w jednym pakiecie – już od 500 €/miesiąc

Wyzwania i otwarte pytania dotyczące rozpowszechniania tekstu

Pomimo obiecującego potencjału metoda dyfuzji do generowania tekstu jest wciąż młoda i nie bez własnych wyzwań:

1. Zależność od liczby kroków

Jakość wyjścia w dużej mierze zależy od liczby kroków szumu, które przeprowadza model. W przypadku modeli obrazów użytkownicy często mogą ustawiać te kroki ręcznie. Jest to również możliwe dla modeli głosowych opartych na modelach głosowych, najlepiej, że systemy AI powinny dynamicznie dostosować je do złożoności monitu i pożądanej długości tekstu.

• Zbyt mało kroków: doprowadzić do jakościowo gorszych, niedokończonych lub „hałaśliwych” rezultatów. Tekst wygląda niespójnie lub rozdrobniony.
• Zbyt wiele kroków: może prowadzić do mylącego, sprzecznego tekstu, a nawet zawalonego. Model „nakazuje” treść w praktyce. Może wystąpić zawalenie się denoisingu, w którym wygenerowana treść powraca do hałaśliwego stanu, ponieważ model jest ponadptymalizowany i traci spójność. Jest to porównywalne z obrazem, który nagle staje się abstrakcyjny i nie do poznania ze względu na zbyt agresywne filtrowanie.

2. Ekwiwalent halucynacji w tekście:

Największe i najbardziej zaawansowane generatory obrazu AI, takie jak strumień lub Minimax Image-01, nadal mają problemy z błędami, które nie mogą wynikać ze słabości modelu, ale mogą wynikać z technologii dyfuzji. Obejmuje to anomalie fizyczne, takie jak zbyt wiele lub zbyt mało palców, dowolne wstawienie elementów lub zniekształcone reprezentacje ciała i architektoniczne. Pytanie brzmi, w jakim stopniu modele dyfuzji tekstu mogłyby cierpieć z powodu równoważnych „halucynacji”:

• Logiczne niespójności: tekst zaczyna się prawdopodobne, ale później sekcje są sprzeczne z poprzednimi stwierdzeniami.
• Łamki stylistyczne i tonalne: styl lub ton tekstu nagle i nieuzasadnione w środku zdania lub akapitu.
• Chaotyczna struktura tekstu: akapity lub zdania są ułożone niespójnie, przeskakują między tematami lub powtarzają się niepotrzebnie.
• Całkowicie brakujący temat: Chociaż tekst jest poprawny gramatycznie, pomija oryginalny temat lub niezwłocznie.
• Faktyczne niedokładności: Chociaż prostytutka jest głównym celem, model może interpretować wzorce statystyczne, aby zbierać nieprawidłowe informacje w tekście.

Zjawiska te są przedmiotem intensywnych badań, ponieważ mogą wpływać na zaufanie do wygenerowanej treści.

Kontekst prezentacji: burza nowych ogłoszeń AI

Fakt, że dyfuzja Bliźnięta zyskała stosunkowo niewielką uwagę, może wydawać się paradoksalny, ale można go wyjaśnić z kontekstu jego prezentacji. Google przedstawił go na corocznej konferencji programistów we/wy, która jest tradycyjnie fajerwerkiem wiadomości. W maju 2024 r. Obfitość ogłoszeń Google była rzeczywiście przytłaczająca. Oprócz dyfuzji Gemini, grupa technologiczna przedstawiła wiele innych najwyższej klasy projektów i narzędzi:

Gemini 2.5 Pro

Najbardziej inteligentna wersja własnego modelu Google Gemini w tym czasie, który już robi wrażenie na jego multimodalności i wydajności.

Astra

Wizja Google asystenta AI, który nie tylko rozumie polecenia głosowe, ale może również przetwarzać i oddziaływać informacje wizualne w czasie rzeczywistym-w kierunku prawdziwych „agentów AI”.

Veo (wersja 3)

Trzecia iteracja KI tekstu do filmu, która jest teraz w stanie również tworzyć język i dźwięk, który znacznie poszerza wciągające umiejętności generatywnych filmów AI.

Smart Glasses Aura

Prototyp inteligentnych okularów, które powinny bezproblemowo ukrywać informacje cyfrowe w prawdziwy świat.

Wideo 3D Sprytna wiązka systemowa

Innowacyjny system wciągających połączeń wideo, które powinny zacierać granice między obecnością fizyczną i cyfrową.

Ze względu na tę powódź przełomowych innowacji trudno było „eksperymentowi”, choć obiecujące, trudne, trudne do zwrócenia niezbędnej uwagi. W pewnym sensie zgiełk większych, natychmiast odpowiednich ogłoszeń, chociaż może on rzucić paradygmaty bardzo spędzonych modeli głosowych na stosie.

Rozwijający się kierunek badań: poprzednicy dyfuzji gemini

Dyfuzja Google może być największym eksperymentem w dziedzinie dyfuzji tekstu, ale jest daleki od pierwszego. Pomysł użycia modeli dyfuzji do tekstu jest stosunkowo nowy, ale intensywnie zbadany kierunek.

Już w 2023 r. Zespół z Soochow University w Chinach opublikował przełomowe badanie. W nim reprezentowali tezę, że modele dyfuzji mogą przekraczać poprzednie architektury modelu głosowego, szczególnie w odniesieniu do solidności i korekcji błędów. W tym samym roku nastąpiło pierwsze podstawowe modele, które wprowadziły koncepcję dyfuzji tekstu w praktyce: dyfuzja-LM i minimalna dyfuzja tekstu. Ci pionierowie wykazali, że deformacja tokenów zazwyczaj działa również na generowanie tekstu, choć na bardzo wczesnym etapie.

Kolejny interesujący model nastąpił w lutym tego roku (2024): Mercury Coder z Incepcja Labs. Model ten koncentrował się przede wszystkim na generowaniu kodu programowania i udowodnił, że modele dyfuzji w tym specjalnym obszarze aplikacji mogą osiągnąć niezwykłą prędkość, która przekracza konwencjonalne modele językowe.

Krótko przed Google I/O, w kwietniu 2024 r., University of Hongkong i Huawei -Felonging to Huawei przedstawili Dream Dream Dream Dream Dream Dream 7b. Do czasu prezentacji dyfuzji Gemini, Dream 7B był największym dostępnym modelem dyfuzji tekstu. Jego umiejętności i podstawowa architektura zwróciły uwagę wiodących badaczy AI. Andrej Karpathy, były badacz Openai, znany ze swoich głębokich wglądu w sieci neuronowe, skomentował Dream 7B. Podkreślił, że ten model może wykazać zupełnie inną „psychologię” lub unikalne mocne i słabe strony w porównaniu z modelami autoregresyjnymi.

Wszystkie te projekty utorowały drogę do dyfuzji Bliźnięta i pokazują, że społeczność badawcza była od pewnego czasu uznana granice modeli kompresowanych przez autora i szukała alternatywnych podejść. Po pomyśle o dyfuzji Gemini, badacz AI, który nie chciał komentować z imienia, potwierdził, że ten model „znaczenie podejścia„ dowody i ”powinien być dalej badany w tym kierunku”. W szczególności podkreślił potencjał modeli głosowych na urządzeniach mobilnych i mniej potężnych serwerach, w których leki dyfuzji mogą być „całkowitym zmieniaczem gier”. Powodem tego jest nieodłączna równoległość procesu obciążającego, który może być lepiej rozmieszczony w niektórych architekturach sprzętu niż sekwencyjny charakter modeli automatycznych.

Rewolucyjne konsekwencje i spojrzenie na przyszłość

Wprowadzenie dyfuzji Gemini, nawet jeśli było w cieniu innych gigantów, jest znaczącym krokiem w rozwoju sztucznej inteligencji. Reprezentuje nie tylko innowacje technologiczne, ale także sygnalizuje potencjalną zmianę paradygmatu w architekturze modeli głosowych.

Co to może oznaczać na przyszłość?

1. Bardziej wydajne aplikacje AI

Ogromna prędkość i zdolność do przetwarzania precyzyjnego mogą zrewolucjonizować generatywne zastosowania AI w wielu obszarach. Pomyśl o produkcji tekstu w czasie rzeczywistym w połączeniach wideo, szybkim generowaniu kodu w środowiskach programistycznych lub natychmiastowych podsumowaniach złożonych dokumentów.

2. AI na urządzeniach mobilnych

Zaleta już wspomniana dla sprzętu o niskiej wydajności jest kluczowa. Jeśli modele dyfuzyjne mogą działać wydajnie na smartfonach lub urządzeniach krawędziowych, znacznie zwiększyłoby to dostępność i korzyści AI, ponieważ mniej zależą od serwerów chmur.

3. Kreatywna edycja tekstu

Autorzy, dziennikarze lub eksperci marketingowi mogliby skorzystać z funkcji w zakresie malowania w celu dostosowania stylu, dźwięku lub treści w określonych sekcjach tekstowych bez niszczenia przepływu całego dokumentu. Umożliwia to wcześniej niezrównaną precyzję i kontrolę w wersji.

4. Solidna i spójna treść

Jeśli opanowane są wyzwania „halucynacji” i „załamania denoisingowego”, modele dyfuzji mogą generować teksty, które są bardziej logicznie spójne i stylistycznie spójne niż w obecnych modelach. Byłby to duży krok w kierunku bardziej niezawodnego pokolenia AI.

5. Nowe umiejętności AI

Holistyczny sposób pracy może umożliwić modele dyfuzji lepsze rozwiązywanie innych rodzajów zadań lub unikanie nowych rodzajów błędów. Być może jesteś predestykowany do zadań, w których globalna spójność jest ustawiona na sekwencyjną perfekcję, na przykład podczas tworzenia złożonych struktur narracyjnych lub pisania skryptów.

Dyfuzja Bliźnięta: Ciche wstrząs w generowaniu tekstu AI

Fakt, że taki potencjalnie pionierski model, jak dyfuzja Gemini - które można już zobaczyć za pomocą samej listy oczekujących - nie jest zauważany w ogóle, jest odzwierciedleniem szybkiego rozwoju w obszarze AI. Prędkość, z jaką pojawiają się nowe modele i paradygmaty, jest zawrotna. Ale szczególnie w tych eksperymentach latających pod radarem prawdziwy potencjał kolejnej dużej rewolucji jest często ukryty.

Obserwowanie modeli dyfuzji w obszarze tekstowym pozostaje ekscytujące i czy mogą one rzucić wyzwanie, a nawet zastąpić uznane architektury kompresowane przez autora. To, co Google zainicjował dyfuzję Gemini, jest czymś więcej niż eksperymentem; Jest to przewodnik po możliwej przyszłości generowania tekstu, która jest szybsza, bardziej elastyczna, a może nawet bardziej intuicyjna. Jest to wezwanie do badań w celu realizacji tego obiecującego kierunku z naciskiem, ponieważ świat AI mógł po prostu podjąć jeden z jego karmienia piersią, ale najważniejsze.

☑️ Wsparcie MŚP w zakresie strategii, doradztwa, planowania i wdrażania

☑️ Tworzenie lub wyrównanie strategii AI

☑️ Pionierski rozwój biznesu

Konrada Wolfensteina

Chętnie będę Twoim osobistym doradcą.

Możesz się ze mną skontaktować wypełniając poniższy formularz kontaktowy lub po prostu dzwoniąc pod numer +49 89 89 674 804 (Monachium) .

Nie mogę się doczekać naszego wspólnego projektu.

Xpert.Digital to centrum przemysłu skupiające się na cyfryzacji, inżynierii mechanicznej, logistyce/intralogistyce i fotowoltaice.

Dzięki naszemu rozwiązaniu do rozwoju biznesu 360° wspieramy znane firmy od rozpoczęcia nowej działalności po sprzedaż posprzedażną.

Wywiad rynkowy, smarketing, automatyzacja marketingu, tworzenie treści, PR, kampanie pocztowe, spersonalizowane media społecznościowe i pielęgnacja leadów to część naszych narzędzi cyfrowych.

Więcej informacji znajdziesz na: www.xpert.digital - www.xpert.solar - www.xpert.plus