Google ha presentado DiffusionGemma, un modelo experimental de inteligencia artificial que cambia la forma como se genera el texto. A diferencia de los modelos actuales, este no construye las respuestas palabra por palabra, sino que lo hace en bloques completos, y eso lo vuelve mucho más rápido. De acuerdo con una publicación en su blog, […]

• De acuerdo con una publicación en su blog, DiffusionGemma puede alcanzar hasta cuatro veces más velocidad de inferencia respecto a Gemma 4 y otros modelos autorregresivos convencionales
• En una GPU dedicada como la NVIDIA H100, el modelo supera los 1.000 tokens por segundo, que equivale a diez veces la velocidad de GPT-5.4 mini
• En cuanto al tamaño, DiffusionGemma es un modelo Mixture of Experts de 26.000 millones de parámetros totales, pero durante la inferencia solo activa 3.800 millones
• Traducido al hardware, el modelo cabe en GPUs de consumo con 18 GB de VRAM, como la RTX 5090 o la RTX 4090, lo que lo hace accesible sin necesidad de infraestructura de servidor