Difusión de Google Gemini: la revolución inadvertida en la generación de texto

Difusión de Google Gemini: la revolución inadvertida en la generación de texto

El mundo de la inteligencia artificial está en movimiento constante. Se presentan nuevos avances y modelos casi todos los días que desafían nuestra imaginación. Pero en medio de la exageración sobre impresionantes modelos de voz como GPT-4O, Claude 3 o el propio Gemini 2.5 Pro de Google, recientemente hubo un anuncio que fue sorprendentemente poca atención, aunque tiene el potencial de cambiar la forma en que pensamos sobre la generación de texto de IA: Difusión de Google Gemini. Este modelo innovador aplica un método a la generación de texto, que hasta ahora hemos conocido principalmente a partir de la adquisición de la imagen: la difusión. Y eso es exactamente lo que lo hace tan fascinante y potencialmente revolucionario.

El origen de la difusión: desde el ruido digital hasta la brillantez visual

Para comprender realmente la difusión de Géminis, primero tenemos que echar un vistazo a la tecnología de la que deriva su nombre y funcionalidad: los modelos de difusión en la generación de imágenes. Modelos como la difusión estable, la mediana edad o el flujo han sorprendido a la industria creativa y al público en general en los últimos años. Puede crear imágenes impresionantes y detalladas a partir de descripciones de texto simples (así que llamó "inmediato").

La "difusión" en su nombre se refiere a un altamente complejo, pero metafóricamente fácil de comprender. Puede imaginarlo como un escultor que, en este caso, le da una escultura detallada de un bloqueo en bruto e informal, en este caso un ruido digital. El proceso comienza con un ruido completamente aleatorio, una especie de "niebla visual" o "nieve digital" que no contiene ninguna estructura reconocible. Este ruido se genera a partir de una "semilla" llamada SO (un número aleatorio que determina la distribución de la salida de salida).

En innumerables pasos pequeños, las llamadas "iteraciones", el modelo de IA comienza a "ruido" este ruido. Identifica patrones que podrían cristalizar del ruido y los convierten gradualmente en estructuras cada vez más claras. Primero, solo surgen contornos borrosos y formas ásperas que apenas se destacan del fondo del fondo. Pero con cada paso más, los detalles se vuelven más precisos, los colores más claros y las líneas son más nítidas hasta que se crea una imagen coherente y, a menudo sorprendentemente realista, que corresponde exactamente a la descripción del texto original. Este proceso iterativo incompleto es el corazón de los modelos de difusión y la clave para su capacidad para crear mundos visuales complejos de la nada.

Difusión de Géminis: la revolución de la generación de texto por no

La sensación real de la difusión de Géminis es que no utiliza este principio de difusión, el ruido del ruido para generar contenido, no a las imágenes, sino en el texto. En lugar de píxeles o valores de color, Gemini funciona difusión con tokens. El token son los bloques de construcción básicos de los modelos de voz: pueden ser palabras individuales, piezas de oraciones, fragmentos de código de programación o incluso signos de puntuación.

El proceso también comienza aquí con un caótico "Wust" de tokens distribuidos al azar, un "sonido de texto" que es completamente incomprensible. Es como una radio que solo refleja el ruido estático o una ensalada de letras ilegibles. Paso a paso, la difusión de Géminis comienza a "ruido" esta confusión de tokens. Según los patrones y relaciones que el modelo aprendió durante su capacitación en una cantidad gigantesca de datos de texto, reconoce las relaciones estadísticas y forma los tokens aleatorios en palabras, oraciones legibles y finalmente un texto coherente o código de programación en funcionamiento.

Este enfoque es fundamentalmente diferente de la funcionalidad de la mayoría de los modelos de voz establecidos que conocemos hoy en día como GPT-4, la serie Gemini (con la excepción de la difusión de Gemini), Llama o Deepseek. Estos funcionan auto -compresivo. Esto significa que genera texto estrictamente uno tras otro, palabra por palabra, fichas para tokens. Sobre la base de las palabras ya generadas, cada nueva palabra se selecciona como la continuación estadísticamente más probable. Puede imaginar que como escribir una oración de izquierda a derecha, por la cual siempre se refiere a la última palabra escrita.

Los límites de los modelos autorgresivos: una mirada hacia atrás

El método autocompresivo sin duda entregó resultados impresionantes y impulsó significativamente la exageración de IA actual. Pero ella también trae desventajas inherentes:

1. Intensidad de cálculo y lentitud

Dado que cada token debe calcularse secuencialmente y los modelos se están volviendo más grandes, las generaciones auto -compresivas a menudo son muy compensadas y, especialmente para textos largos, son relativamente lentos. Todo el contexto debe ser revaluado con cada paso.

2. Incorrección e inflexibilidad

Las piezas de texto generadas una vez no pueden ser corregidas retrospectivamente por un modelo comprimido por el autor. Si el modelo determina en el curso de la generación que una parte anterior del texto era desfavorable o incorrecta, ya no puede cambiarlo directamente. Es, por así decirlo, "ciego" para el futuro de su propio texto. Esto a menudo conduce a inconsistencias lógicas o descansos estilísticos, especialmente para textos más largos y más complejos. Algunos modelos más nuevos intentan abordar este problema con un llamado método de "razonamiento", como el que se puede encontrar en Deepseek R1 o GPT-4O. El modelo "piensa" en varias etapas sobre una de inmediato y recopila conclusiones antes de generar la respuesta final. Sin embargo, esto requiere aún más potencia y tiempo informático, ya que el modelo genera y rechaza el contenido repetidamente.

3. Desafíos en el procesamiento

Si un modelo compresivo autor debe editar un texto ya generado, a menudo tiene que generar todo el texto desde cero, incluso si solo se va a hacer un pequeño cambio. Esto es ineficiente y consume el tiempo.

Las fortalezas de la difusión de Géminis: velocidad, flexibilidad y precisión

El método de difusión tal como utiliza la difusión de Gemini es una respuesta a estos desafíos de muchas maneras. Es holístico e iterativo, lo que significa que el modelo está al mismo tiempo en todo el contenido de su salida con cada paso individual.

1. Velocidad impresionante

Esta es una de las ventajas más llamativas. Mientras que GPT-4O genera alrededor de 50 a 100 tokens por segundo, el soneto de Claude 3 alrededor de 77 y Gemini 2.0 flashea hasta 245 tokens, la difusión de Gemini alcanza velocidades de 500 a 1,000 tokens por segundo. Según los informes de usuarios en plataformas como X (anteriormente Twitter) y Reddit, el modelo incluso puede generar hasta 3.000 tokens por segundo en condiciones óptimas. Para comparación: 1,000 tokens corresponden a aproximadamente 650 a 750 palabras, lo que significa que la difusión de Géminis en un solo segundo puede crear entre media a tres cuartos de texto de una página DIN A4. Esta velocidad es particularmente impresionante al generar código de programación, donde el modelo puede jugar completamente su eficiencia.

2. Corrección holística y flexible

Dado que el modelo es increíble al mismo tiempo, reacciona a cada token que se forma desde el ruido latente en algún lugar de su ventana de salida. Una palabra de formación al final del texto puede influir en lo que se especifica en el siguiente paso al principio o en el medio. Si el modelo descubre un error, inexactitud o desenfoque durante el proceso de generación, se puede corregir y optimizar, independientemente de dónde aparezcan en el texto. Esta es una ventaja decisiva sobre los modelos comprimidos por el autor que tienen un "punto ciego" para futuros errores.

3. Procesamiento dirigido (interferencia de texto)

Similar a los modelos de difusión de imágenes, el llamado "en pintura" funciona (marque un área en la imagen y deje que se regenere para agregar o eliminar objetos), la difusión de Gemini también puede funcionar muy específicamente. No tiene que reconstruir el texto completo de principio a fin. En cambio, puede "estar desolado" y luego "ruido" nuevamente y luego "ruido". Esto permite adaptar, traducir u optimizar pasajes o párrafos seleccionados en su tonalidad o estilo sin afectar el resto del texto. En otros modelos de voz, esto a menudo sigue siendo un desafío o lleva un tiempo desproporcionadamente mucho tiempo. Esto abre oportunidades completamente nuevas para un procesamiento y optimización de texto eficientes.

4. Salida natural del habla

Aunque la generación de texto clásico puede ser algo más lenta que con el código, algunos usuarios informan que la difusión de Gemini crea textos que suenan más naturales y humanos que los de otros modelos de idiomas importantes. Esto podría deberse a la forma holística de trabajar, lo que permite al modelo mantener mejor la coherencia global y la consistencia estilística.

Máquina de renderizado 3D AI y XR: experiencia quíntuple de Xpert.Digital en un paquete de servicios integral, I+D XR, PR y SEM - Imagen: Xpert.Digital

Xpert.Digital tiene un conocimiento profundo de diversas industrias. Esto nos permite desarrollar estrategias a medida que se adaptan precisamente a los requisitos y desafíos de su segmento de mercado específico. Al analizar continuamente las tendencias del mercado y seguir los desarrollos de la industria, podemos actuar con previsión y ofrecer soluciones innovadoras. Mediante la combinación de experiencia y conocimiento generamos valor añadido y damos a nuestros clientes una ventaja competitiva decisiva.

Más sobre esto aquí:

• Utilice la experiencia quíntuple de Xpert.Digital en un solo paquete, desde sólo 500 € al mes

Desafíos y preguntas abiertas de difusión de texto

A pesar de su prometedor potencial, el método de difusión para la generación de texto sigue siendo joven y no sin sus propios desafíos:

1. Dependencia del número de pasos

La calidad de la salida depende en gran medida de la cantidad de pasos de ruido que lleva a cabo el modelo. Con los modelos de imagen, los usuarios a menudo pueden establecer estos pasos manualmente. Esto también es posible para los modelos de voz basados ​​en modelos de voz, idealmente los sistemas AI deberían adaptarlos dinámicamente a la complejidad de la longitud de texto rápida y deseada.

• Muy pocos pasos: conducir a resultados cualitativamente inferiores, inacabados o "ruidosos". El texto parece incoherente o fragmentado.
• Demasiados pasos: puede conducir a un texto confundido, contradictorio o incluso colapsado. El modelo "exige" el contenido en la práctica. Puede ocurrir un colapso de Denoising de SO, en el que el contenido generado vuelve a un estado ruidoso porque el modelo está excesivo y pierde la coherencia. Esto es comparable a una imagen que de repente se vuelve abstracta e irreconocible debido a un filtrado demasiado agresivo.

2. Equivalente de alucinaciones en el texto:

Los generadores de imágenes AI más grandes y avanzados, como Flux o Minimax Image-01, todavía tienen problemas con errores que no pueden resultar de debilidades del modelo, pero pueden resultar de la tecnología de difusión. Esto incluye anomalías físicas como demasiados o muy pocos dedos, la inserción arbitraria de elementos o representaciones de cuerpo y arquitectura distorsionados. La pregunta es en qué medida los modelos de difusión de texto podrían sufrir "alucinaciones" equivalentes:

• Inconsistencias lógicas: el texto comienza plausiblemente, pero las secciones posteriores contradicen declaraciones anteriores.
• Romaces estilísticos y tonales: el estilo o tono del texto repentinamente e infundado en el medio de la oración o párrafo.
• Estructura de texto caótico: los párrafos o oraciones se organizan incoherentemente, saltan entre temas o se repiten innecesariamente.
• Tema completamente perdido: aunque el texto es gramaticalmente correcto, pierde el tema original o de inmediato.
• Inexcutaciones de hechos: aunque la prostituta es el objetivo principal, el modelo podría interpretar patrones estadísticos para que recopilen información incorrecta en el texto.

Estos fenómenos son objeto de investigación intensiva porque podrían afectar la confianza en el contenido generado.

El contexto de la presentación: una tormenta de nuevos anuncios de IA

El hecho de que la difusión de Géminis reciba relativamente poca atención puede parecer paradójico, pero puede explicarse a partir del contexto de su presentación. Google lo presentó en sus E/S de la Conferencia Anual de Desarrolladores, que tradicionalmente es un fuego artificial de noticias. En mayo de 2024, la abundancia de anuncios de Google fue abrumador. Además de la difusión de Gemini, el grupo tecnológico presentó una serie de otros proyectos y herramientas de primera clase:

Géminis 2.5 Pro

La versión más inteligente del modelo Gemini de Google en ese momento, que ya impresiona con su multimodalidad y rendimiento.

Astro

La visión de Google de un asistente de IA que no solo entiende los comandos de voz, sino que también puede procesar e interactuar la información visual en tiempo real, un paso hacia los "agentes de IA" reales.

VEO (versión 3)

La tercera iteración de KI de texto a video, que ahora también puede crear lenguaje y sonido, lo que amplía significativamente las habilidades inmersivas de los videos generativos de IA.

Aura de gafas inteligentes

Un prototipo de gafas inteligentes que debería ocultar información digital sin problemas en el mundo real.

Video de video 3D REAJO DEL SISTEMA

Un sistema innovador para videollamadas inmersivas que deberían difuminar los límites entre la presencia física y digital.

En vista de esta inundación de innovaciones innovadoras, fue difícil para un "experimento", por prometedora que sea, difícil obtener la atención necesaria. En cierto modo, el ajetreo y el bullicio de los anuncios más grandes e inmediatamente aplicables se hundieron, aunque tiene el potencial de lanzar los paradigmas de los modelos de voz tan tan señalados sobre la pila.

Una floreciente dirección de investigación: los predecesores de la difusión de Géminis

La difusión de Google puede ser el experimento más grande en el campo de la difusión del texto hasta ahora, pero está lejos de ser el primero. La idea de usar modelos de difusión para el texto es una dirección relativamente nueva pero intensamente investigada.

Ya en 2023, un equipo de la Universidad Soochow en China publicó un estudio innovador. En él, representaron la tesis de que los modelos de difusión podrían exceder las arquitecturas de modelos de voz anteriores, especialmente con respecto a la robustez y la corrección de errores. En el mismo año, los primeros modelos rudimentarios siguieron que ponen en práctica el concepto de difusión del texto: difusión-LM y difusión mínima del texto. Estos pioneros mostraron que la deformación de los tokens generalmente también funciona para la generación de texto, aunque en una etapa muy temprana.

Otro modelo interesante siguió en febrero de este año (2024): Mercury Coder de Inception Labs. Este modelo se centró principalmente en la generación de código de programación y demostró que los modelos de difusión en esta área especial de aplicación pueden lograr una velocidad notable que excede los modelos de lenguaje convencionales.

Poco antes de Google I/O, en abril de 2024, la Universidad de Hong Kong y Huawei, que se burló de Huawei, presentó el Modelo de lenguaje grande de difusión Dream 7b. Hasta la presentación de la difusión de Géminis, Dream 7b fue el modelo de difusión disponible más grande para el texto. Sus habilidades y la arquitectura subyacente llamaron la atención de los principales investigadores de IA. Andrej Karpathy, un ex investigador de Openai que es conocido por sus profundas ideas sobre las redes neuronales, comentó en Dream 7b. Hizo hincapié en que este modelo tiene el potencial de mostrar una "psicología" y debilidades únicas completamente diferentes en comparación con los modelos autorregresivos.

Todos estos proyectos allanaron el camino para la difusión de Géminis y muestran que la comunidad de investigación ha sido reconocida durante algún tiempo ahora los límites de los modelos comprimidos por el autor y buscaba enfoques alternativos. Después de la idea de la difusión de Géminis, un investigador de IA que no quería comentar por nombre confirmó que este modelo ahora "la relevancia del enfoque" evidencia y "debería investigarse más en esta dirección". En particular, enfatizó el potencial de modelos de voz en dispositivos móviles y servidores menos potentes, donde la difusión-LEMS podría ser "un cambio de juego total". La razón de esto es la paralelización inherente del proceso incriminatorio, que puede distribuirse mejor sobre ciertas arquitecturas de hardware que la naturaleza secuencial de los modelos auto-gris.

Las implicaciones revolucionarias y una mirada al futuro

La introducción de la difusión de Géminis, incluso si estaba a la sombra de otros gigantes, es un paso significativo en el desarrollo de la inteligencia artificial. No solo representa una innovación tecnológica, sino que también señala un posible cambio de paradigma en la arquitectura de los modelos de voz.

¿Qué podría significar eso para el futuro?

1. Aplicaciones de IA más eficientes

La enorme velocidad y la capacidad de procesar precisas podrían revolucionar las aplicaciones generativas de IA en muchas áreas. Piense en la producción de texto en tiempo real en las videollamadas, la generación rápida de código en entornos de desarrollo o resúmenes inmediatos de documentos complejos.

2. IA en dispositivos móviles

La ventaja ya mencionada para el hardware de bajo rendimiento es crucial. Si los modelos de difusión pueden ejecutarse de manera eficiente en teléfonos inteligentes o dispositivos de borde, esto aumentaría drásticamente la accesibilidad y los beneficios de la IA, ya que menos dependería de los servidores de la nube.

3. Edición de texto creativo

Los autores, periodistas o expertos en marketing podrían beneficiarse de la función en pintura para adaptar específicamente el estilo, el sonido o el contenido en secciones de texto específicas sin destruir el flujo de todo el documento. Esto permite una precisión y control previamente inigualables en la revisión.

4. Contenido robusto y consistente

Si se dominan los desafíos de las "alucinaciones" y el "colapso de denoising", los modelos de difusión podrían generar textos que son más lógicamente consistentes y estilísticamente coherentes que los de los modelos actuales. Este sería un gran paso hacia una generación de IA más confiable.

5. Nuevas habilidades de IA

La forma holística de trabajar podría permitir modelos de difusión para resolver mejor otros tipos de tareas o para evitar nuevos tipos de errores. Quizás esté predestinado para tareas en las que se coloca la consistencia global en la perfección secuencial, como cuando se crea estructuras narrativas complejas o escritura de guiones.

Difusión de Géminis: la agitación silenciosa en la generación de texto AI

El hecho de que un modelo potencialmente pionero como la difusión de Géminis, que ya se puede ver a través de una lista de espera, apenas se nota en el público en general es un reflejo del rápido desarrollo en el área de IA. La velocidad con la que aparecen nuevos modelos y paradigmas es vertiginoso. Pero especialmente en aquellos experimentos que vuelan bajo el radar, el potencial real para la próxima gran revolución a menudo está oculto.

Sigue siendo emocionante observar cómo se desarrollan los modelos de difusión en el área de texto y si realmente pueden desafiar o incluso reemplazar las arquitecturas comprimidas por el autor establecido. Lo que Google inició con la difusión de Géminis es más que un simple experimento; Es una guía para un posible futuro de la generación de texto que es más rápido, más flexible y tal vez aún más intuitivo. Es un llamado a la investigación para seguir esta dirección prometedora con énfasis, porque el mundo de la IA puede haber tomado uno de sus pasos de lactancia pero más importantes.

☑️ Apoyo a las PYMES en estrategia, consultoría, planificación e implementación.

☑️ Creación o realineación de la estrategia de IA

☑️ Desarrollo empresarial pionero

Konrad Wolfenstein

Estaré encantado de servirle como su asesor personal.

Puedes contactarme completando el formulario de contacto a continuación o simplemente llámame al +49 89 89 674 804 (Múnich) .

Estoy deseando que llegue nuestro proyecto conjunto.

Xpert.Digital es un centro industrial centrado en la digitalización, la ingeniería mecánica, la logística/intralogística y la fotovoltaica.

Con nuestra solución de desarrollo empresarial de 360°, apoyamos a empresas reconocidas desde nuevos negocios hasta posventa.

Inteligencia de mercado, smarketing, automatización de marketing, desarrollo de contenidos, relaciones públicas, campañas de correo, redes sociales personalizadas y desarrollo de leads son parte de nuestras herramientas digitales.

Puede obtener más información en: www.xpert.digital - www.xpert.solar - www.xpert.plus