Difusão do Google Gemini: a revolução despercebida na geração de texto

Difusão do Google Gemini: a revolução despercebida na geração de texto

O mundo da inteligência artificial está em movimento constante. Novos avanços e modelos são apresentados quase todos os dias que desafiam nossa imaginação. Mas, no meio do hype, sobre modelos de voz impressionantes como GPT-4O, Claude 3 ou Gemini 2.5 Pro do Google, houve recentemente um anúncio que era surpreendentemente pouca atenção, embora tenha o potencial de mudar a maneira como pensamos na geração de texto da IA: difusão do Google Gemini. Este modelo inovador aplica um método à geração de texto, que até agora conhecemos principalmente na aquisição da imagem - a difusão. E é exatamente isso que o torna tão fascinante e potencialmente revolucionário.

A origem da difusão: do ruído digital ao brilho visual

Para realmente entender a difusão de Gêmeos, primeiro precisamos dar uma olhada na tecnologia da qual deriva seu nome e funcionalidade: os modelos de difusão na geração de imagens. Modelos como difusão estável, Midjourney ou Flux surpreenderam a indústria criativa e o público em geral nos últimos anos. Você pode criar imagens de tirar o fôlego e detalhadas a partir de descrições de texto simples (SO -chamado "Prompt").

A "difusão" em seu nome refere -se a um altamente complexo, mas metaforicamente fácil de entender. Você pode imaginá -lo como um escultor que, nesse caso, abre uma escultura detalhada de um bloco informal bruto - nesse caso, um ruído digital. O processo começa com um ruído completamente aleatório, uma espécie de "neblina visual" ou "neve digital" que não contém nenhuma estrutura reconhecível. Esse ruído é gerado a partir de um “semente” chamado (um número aleatório que determina a distribuição de corrida de saída).

Em inúmeros pequenos passos, as chamadas "iterações", o modelo de IA começa a "ruído" esse ruído. Ele identifica padrões que podem cristalizar o ruído e gradualmente os converte em estruturas cada vez mais claras. Primeiro, apenas contornos borrados e formas ásperas surgem que dificilmente se destacam do fundo do fundo. Mas, com todas as etapas adicionais, os detalhes se tornam mais precisos, as cores mais claras e as linhas são mais nítidas até que uma imagem coerente e muitas vezes surpreendentemente realista seja criada que corresponda exatamente à descrição do texto original. Esse processo incompleto iterativo é o coração dos modelos de difusão e a chave para sua capacidade de criar mundos visuais complexos do nada.

Difusão de Gêmeos: a revolução da geração de texto por não

A sensação real da difusão de Gêmeos é que ela não usa esse princípio de difusão - o ruído do ruído para gerar conteúdo - não para imagens, mas no texto. Em vez de pixels ou valores de cores, Gemini trabalha difusão com tokens. Token são os blocos básicos de construção de modelos de voz: podem ser palavras individuais, peças de frase, fragmentos de código de programação ou até marcas de pontuação.

O processo também começa aqui com um caótico "wust" de tokens distribuídos aleatoriamente, um "som de texto" que é completamente incompreensível. É como um rádio que apenas reflete o ruído estático ou uma salada de cartas ilegível. Passo a passo, a difusão de Gêmeos começa a "ruído" essa confusão. Com base nos padrões e relacionamentos que o modelo aprendeu durante seu treinamento sobre a quantidade gigantesca de dados de texto, ele reconhece relacionamentos estatísticos e forma os tokens aleatórios em palavras legíveis, frases e, finalmente, um texto coerente ou código de programação em funcionamento.

Essa abordagem é fundamentalmente diferente da funcionalidade da maioria dos modelos de voz estabelecidos que conhecemos hoje, modelos, como o GPT-4, a série Gemini (com exceção da própria difusão de Gêmeos), Llama ou Deepseek. Estes funcionam auto -compressivos. Isso significa que você gera texto estritamente um após o outro, palavra por palavra, token para tokens. Com base nas palavras já geradas, cada nova palavra é selecionada como a continuação mais estatisticamente provavelmente. Você pode imaginar isso como escrever uma frase da esquerda para a direita, pela qual você sempre se refere à última palavra escrita.

Os limites dos modelos auto -regressivos: um olhar para trás

O método auto-compressivo, sem dúvida, forneceu resultados impressionantes e impulsionou significativamente o hype atual da IA. Mas ela também traz desvantagens inerentes:

1. Intensidade de cálculo e lentidão

Como cada token precisa ser calculado sequencialmente e os modelos estão ficando maiores, as gerações compressivas automáticas geralmente são muito compensações e, especialmente para textos longos, são relativamente lentos. Todo o contexto deve ser avaliado a cada passo.

2. Incorreção e inflexibilidade

As peças de texto geradas uma vez não podem ser corrigidas retrospectivamente por um modelo compactado por autor. Se o modelo determinar no curso da geração que uma parte anterior do texto era desfavorável ou errada, ele não poderá mais alterá -lo diretamente. É, por assim dizer, "cego" para o futuro de seu próprio texto. Isso geralmente leva a inconsistências lógicas ou quebras estilísticas, especialmente para textos mais longos e mais complexos. Alguns modelos mais recentes tentam resolver esse problema com o chamado método de "raciocínio", como o que pode ser encontrado no Deepseek R1 ou GPT-4O. O modelo “pensa” em vários estágios prontamente e coleta conclusões antes de gerar a resposta final. No entanto, isso requer ainda mais poder de computação e tempo, pois o modelo gera repetidamente e rejeita o conteúdo.

3. Desafios no processamento

Se um modelo compressivo do autor for editar um texto já gerado, ele geralmente precisa gerar todo o texto a partir do zero, mesmo que apenas uma pequena alteração seja feita. Isso é ineficiente e consome tempo.

Os pontos fortes da difusão de Gêmeos: velocidade, flexibilidade e precisão

O método de difusão, pois usa a difusão de Gêmeos, é uma resposta para esses desafios de várias maneiras. É holístico e iterativo, o que significa que o modelo é ao mesmo tempo em todo o conteúdo de sua saída com cada etapa individual.

1. Velocidade impressionante

Esta é uma das vantagens mais impressionantes. Enquanto o GPT-4O gera cerca de 50 a 100 tokens por segundo, Claude 3 sonetos em torno de 77 e Gemini 2.0 Flash até 245 tokens, a difusão de Gêmeos atinge velocidades de 500 a 1.000 tokens por segundo. De acordo com relatos de usuários em plataformas como X (anteriormente Twitter) e Reddit, o modelo pode até gerar até 3.000 tokens por segundo em condições ideais. Para comparação: 1.000 tokens correspondem a cerca de 650 a 750 palavras, o que significa que a difusão de gêmeos em um único segundo pode criar metade a três quartos de um texto DIN A4 Page. Essa velocidade é particularmente impressionante ao gerar código de programação, onde o modelo pode jogar totalmente sua eficiência.

2. Correção holística e flexível

Como o modelo é incrível ao mesmo tempo, ele reage a todos os token que se formam a partir do ruído latente em algum lugar da janela de saída. Uma palavra de formação no final do texto pode influenciar o que é especificado na próxima etapa no início ou no meio. Se o modelo descobrir um erro, imprecisão ou desfoque durante o processo de geração, ele poderá ser corrigido e otimizado, independentemente de onde eles aparecem no texto. Esta é uma vantagem decisiva sobre os modelos compactados pelo autor que têm um "ponto cego" para erros futuros.

3. Processamento direcionado (pintura de texto)

Semelhante aos modelos de difusão de imagem, os chamados trabalhos de “pintura” (marquem uma área na imagem e deixam-a regenerar para adicionar ou remover objetos), a difusão de Gêmeos também pode funcionar muito especificamente. Não precisa reconstruir o texto inteiro do início ao fim. Em vez disso, pode facilmente "ser desolado" e depois "ruído" novamente e depois "ruído". Isso permite adaptar, traduzir ou otimizar passagens ou parágrafos selecionados em sua tonalidade ou estilo sem afetar o restante do texto. Em outros modelos de voz, isso geralmente ainda é um desafio ou leva um tempo desproporcionalmente longo. Isso abre oportunidades completamente novas para processamento e otimização eficientes de texto.

4. Saída de fala natural

Embora a geração de texto clássico possa ser um pouco mais lenta do que com o código, alguns usuários relatam que a difusão de Gêmeos cria textos que soam mais naturais e humanos do que os de outros modelos de idiomas importantes. Isso pode ser devido à maneira holística de trabalhar, que permite que o modelo mantenha melhor a coerência global e a consistência estilística.

Máquina de renderização 3D AI e XR: experiência quíntupla da Xpert.Digital em um pacote de serviços abrangente, R&D XR, PR e SEM - Imagem: Xpert.Digital

A Xpert.Digital possui conhecimento profundo de diversos setores. Isso nos permite desenvolver estratégias sob medida, adaptadas precisamente às necessidades e desafios do seu segmento de mercado específico. Ao analisar continuamente as tendências do mercado e acompanhar os desenvolvimentos da indústria, podemos agir com visão e oferecer soluções inovadoras. Através da combinação de experiência e conhecimento, geramos valor acrescentado e damos aos nossos clientes uma vantagem competitiva decisiva.

Mais sobre isso aqui:

• Utilize a experiência 5x do Xpert.Digital num único pacote - a partir de apenas 500€/mês

Desafios e questões abertas de difusão de texto

Apesar de seu potencial promissor, o método de difusão para a geração de texto ainda é jovem e não sem seus próprios desafios:

1. Dependência do número de etapas

A qualidade da saída depende amplamente do número de etapas de ruído que o modelo realiza. Com os modelos de imagem, os usuários geralmente podem definir essas etapas manualmente. Isso também é possível para modelos de voz com base em modelos de voz, idealmente os sistemas de IA devem adaptá -los dinamicamente à complexidade do prompt e ao comprimento do texto desejado.

• Poucas etapas: leve a resultados qualitativamente inferiores, inacabados ou "barulhentos". O texto parece incoerente ou fragmentado.
• Muitas etapas: podem levar a um texto confuso, contraditório ou até desmoronado. O modelo "exige" o conteúdo na prática. Pode ocorrer um colapso de denoising tão chamado, no qual o conteúdo gerado volta a um estado barulhento porque o modelo está super otimizado e perde a coerência. Isso é comparável a uma imagem que de repente se torna abstrata e irreconhecível devido à filtragem muito agressiva.

2. Equivalente às alucinações no texto:

Os maiores e mais avançados geradores de imagens de IA, como Flux ou Minimax Image-01, ainda têm problemas com erros que não podem resultar de fraquezas do modelo, mas podem resultar da tecnologia de difusão. Isso inclui anomalias físicas como muitos ou poucos dedos, a inserção arbitrária de elementos ou representações de corpo e arquitetura distorcidos. A questão é até que ponto os modelos de difusão de texto podem sofrer de "alucinações" equivalentes:

• Inconsistências lógicas: o texto começa de forma plausível, mas seções posteriores contradizem declarações anteriores.
• Quebras estilísticas e tonais: o estilo ou o tom do texto repentinamente e infundados no meio da frase ou parágrafo.
• Estrutura de texto caótico: parágrafos ou frases são organizados incoerentemente, saltam entre tópicos ou se repetem desnecessariamente.
• Tópico completamente perdido: embora o texto esteja gramaticalmente correto, ele perde o tópico original ou imediatamente.
• Imprecisões factuais: embora a prostituta seja o objetivo principal, o modelo pode interpretar padrões estatísticos para que eles coletem informações incorretas no texto.

Esses fenômenos são objeto de pesquisas intensivas porque podem afetar a confiança no conteúdo gerado.

O contexto da apresentação: uma tempestade de novos anúncios de IA

O fato de a difusão de Gêmeos ter recebida comparativamente pouca atenção pode parecer paradoxal, mas pode ser explicada a partir do contexto de sua apresentação. O Google o apresentou em sua E/S anual da Conferência de Desenvolvedores, que é tradicionalmente um fogo de artifício de notícias. Em maio de 2024, a abundância dos anúncios do Google foi realmente esmagadora. Além da difusão de Gêmeos, o grupo de tecnologia apresentou vários outros projetos e ferramentas de primeira classe:

Gemini 2.5 Pro

A versão mais inteligente do modelo Gemini do Google na época, que já impressiona com sua multimodalidade e desempenho.

Astra

A visão do Google de um assistente de IA que não apenas entende comandos de voz, mas também pode processar e interagir informações visuais em tempo real-um passo em direção a "agentes de IA" reais.

Veo (versão 3)

A terceira iteração de KI de texto para vídeo, que agora também pode criar linguagem e som, o que expande significativamente as habilidades imersivas dos vídeos generativos da IA.

Aura de óculos inteligentes

Um protótipo de óculos inteligentes que devem ocultar informações digitais perfeitamente no mundo real.

Vídeo 3D Clever System Beam

Um sistema inovador para chamadas de vídeo imersivas que devem embaçar os limites entre presença física e digital.

Em vista dessa enxurrada de inovações inovadoras, foi difícil para um "experimento", por mais promissor que seja, difícil obter a atenção necessária. De certa forma, a agitação dos anúncios maiores e imediatamente aplicáveis ​​foi adquirida, embora tenha o potencial de lançar os paradigmas dos modelos de voz muito notados sobre a pilha.

Uma direção de pesquisa em expansão: os antecessores da difusão de Gêmeos

A difusão do Google pode ser o maior experimento no campo da difusão de texto até agora, mas está longe do primeiro. A idéia de usar modelos de difusão para texto é uma direção relativamente nova, mas intensamente pesquisada.

Já em 2023, uma equipe da Universidade Soochow, na China, publicou um estudo inovador. Nele, eles representaram a tese de que os modelos de difusão poderiam exceder as arquiteturas de modelos de voz anteriores, especialmente no que diz respeito à robustez e correção de erros. No mesmo ano, se seguiu os primeiros modelos rudimentares que colocam o conceito de difusão de texto em prática: difusão-lm e difusão mínima de texto. Esses pioneiros mostraram que a deformação dos tokens geralmente também funciona para a geração de texto, embora em um estágio muito inicial.

Outro modelo interessante seguiu em fevereiro deste ano (2024): Mercury Coder from Inception Labs. Esse modelo se concentrou principalmente na geração de código de programação e provou que os modelos de difusão nesta área especial de aplicação podem atingir uma velocidade notável que excede os modelos de idiomas convencionais.

Pouco antes do Google I/S, em abril de 2024, a Universidade de Hong Kong e a Huawei -acreditando na Huawei apresentou a difusão do modelo de linguagem grande sonho 7b. Até a apresentação da difusão de Gêmeos, o Dream 7b era o maior modelo de difusão disponível para o texto. Suas habilidades e a arquitetura subjacente chamaram a atenção de liderar os pesquisadores de IA. Andrej Karpathy, um ex -pesquisador do Openai que é conhecido por suas profundas informações sobre as redes neurais, comentou sobre o Dream 7B. Ele enfatizou que esse modelo tem o potencial de mostrar uma "psicologia" completamente diferente ou forças e fraquezas únicas em comparação com modelos autoregressivos.

Todos esses projetos abriram o caminho para a difusão de Gêmeos e mostram que a comunidade de pesquisa já é reconhecida há algum tempo os limites dos modelos compactados pelo autor e estava procurando abordagens alternativas. Após a idéia de difusão de Gêmeos, um pesquisador de IA que não queria comentar pelo nome confirmou que esse modelo agora "a relevância da abordagem" evidência e "deveria ser pesquisada nessa direção". Em particular, ele enfatizou o potencial de modelos de voz em dispositivos móveis e servidores menos poderosos, onde as lemas de difusão poderiam ser "um trocador de jogo total". A razão para isso é a paralelizabilidade inerente ao processo incriminador, que pode ser melhor distribuído por certas arquiteturas de hardware do que a natureza seqüencial dos modelos acinzentados.

As implicações revolucionárias e uma olhada no futuro

A introdução da difusão de Gêmeos, mesmo que estivesse na sombra de outros gigantes, é um passo significativo no desenvolvimento da inteligência artificial. Ele não apenas representa uma inovação tecnológica, mas também sinaliza uma possível mudança de paradigma na arquitetura dos modelos de voz.

O que isso poderia significar para o futuro?

1. Aplicativos de IA mais eficientes

A enorme velocidade e a capacidade de processar precisas podem revolucionar aplicativos generativos de IA em muitas áreas. Pense na produção de texto em tempo real em chamadas de vídeo, geração rápida de código em ambientes de desenvolvimento ou resumos imediatos de documentos complexos.

2. Ai em dispositivos móveis

A vantagem já mencionada para o hardware de baixo desempenho é crucial. Se os modelos de difusão puderem ser executados com eficiência em smartphones ou dispositivos de borda, isso aumentaria drasticamente a acessibilidade e os benefícios da IA, pois menos dependeria de servidores em nuvem.

3. Edição de texto criativo

Autores, jornalistas ou especialistas em marketing podem se beneficiar da função de pintura para adaptar especificamente estilo, som ou conteúdo em seções de texto específicas sem destruir o fluxo de todo o documento. Isso permite precisão e controle anteriormente incomparáveis ​​na revisão.

4. Conteúdo robusto e consistente

Se os desafios das "alucinações" e do "colapso de denoising" forem dominados, os modelos de difusão podem gerar textos que são mais logicamente consistentes e estilisticamente coerentes do que os dos modelos atuais. Este seria um grande passo em direção a uma geração de IA mais confiável.

5. Novas habilidades de IA

A maneira holística de trabalhar pode permitir modelos de difusão para resolver melhor outros tipos de tarefas ou evitar novos tipos de erros. Talvez você esteja predestinado por tarefas nas quais a consistência global é colocada na perfeição seqüencial, como ao criar estruturas narrativas complexas ou escrever scripts.

Difusão de Gêmeos: a revolta silenciosa na geração de texto da IA

O fato de que um modelo potencialmente pioneiro como difusão de gêmeos - que já pode ser visto por meio de uma lista de espera - dificilmente é notado no público em geral é um reflexo do rápido desenvolvimento na área de IA. A velocidade com que novos modelos e paradigmas aparecem é estonteante. Mas, especialmente nesses experimentos que voam sob o radar, o verdadeiro potencial para a próxima grande revolução é frequentemente oculto.

Ainda é emocionante observar como os modelos de difusão na área de texto se desenvolvem e se eles podem realmente desafiar ou até mesmo substituir as arquiteturas estabelecidas com pressão do autor. O que o Google iniciou com a difusão de Gêmeos é mais do que apenas um experimento; É um guia para um possível futuro da geração de texto que é mais rápida, mais flexível e talvez ainda mais intuitiva. É um chamado para pesquisar para seguir essa direção promissora com ênfase, porque o mundo da IA ​​pode ter acabado de tomar um de seus passos de amamentação, mas mais importante.

☑️ Apoio às PME em estratégia, consultoria, planeamento e implementação

☑️ Criação ou realinhamento da estratégia de IA

☑️ Desenvolvimento de negócios pioneiro

Konrad Wolfenstein

Ficarei feliz em servir como seu conselheiro pessoal.

Você pode entrar em contato comigo preenchendo o formulário de contato abaixo ou simplesmente ligando para +49 89 89 674 804 (Munique) .

Estou ansioso pelo nosso projeto conjunto.

Xpert.Digital é um hub para a indústria com foco em digitalização, engenharia mecânica, logística/intralogística e energia fotovoltaica.

Com nossa solução de desenvolvimento de negócios 360°, apoiamos empresas conhecidas, desde novos negócios até o pós-venda.

Inteligência de mercado, smarketing, automação de marketing, desenvolvimento de conteúdo, PR, campanhas por email, mídias sociais personalizadas e nutrição de leads fazem parte de nossas ferramentas digitais.

Você pode descobrir mais em: www.xpert.digital - www.xpert.solar - www.xpert.plus