Présentation de la diffusion des Gémeaux

Notre modèle de diffusion de texte expérimental à la technologie

output: Gemini Diffusion is an experimental text diffusion model from Google AI, combining the strengths of large-language models with a new generation technique called diffusion.

Sortie: La diffusion des Gémeaux est un modèle expérimental de diffusion de texte de Google AI, combinant les forces des modèles à grande langue avec une technique de nouvelle génération appelée diffusion.

Traditional language models generate text one token at a time using autoregressive methods. However, in tasks like editing, inserting content in the context of math or code, and merging different ideas, a more flexible and powerful generation paradigm is needed.

Les modèles de langue traditionnels génèrent du texte un jeton à la fois en utilisant des méthodes autorégressives. Cependant, dans des tâches comme l'édition, l'insertion du contenu dans le contexte des mathématiques ou du code et de la fusion de différentes idées, un paradigme de génération plus flexible et puissant est nécessaire.

Diffusion models offer an alternative approach. Instead of learning to predict text directly, they excel at refining noise to generate outputs step-by-step. This property is leveraged in Gemini Diffusion for efficient generation.

Les modèles de diffusion offrent une approche alternative. Au lieu d'apprendre à prédire directement le texte, ils excellent à affiner le bruit pour générer des sorties étape par étape. Cette propriété est exploitée dans la diffusion des Gémeaux pour une génération efficace.

Capabilities

Capacités

Rapid response

Réponse rapide

Generates content significantly faster than even our fastest model so far.

Génère du contenu considérablement plus rapidement que même notre modèle le plus rapide à ce jour.

More coherent text

Texte plus cohérent

Generates entire blocks of tokens at once, meaning it responds more coherently to a user’s prompt than autoregressive models.

Génère des blocs entiers de jetons à la fois, ce qui signifie qu'il répond de manière plus cohérente à l'invite d'un utilisateur que les modèles autorégressifs.

Iterative refinement

Raffinement itératif

Corrects errors during generation for more consistent outputs.

Corrige les erreurs pendant la génération pour des sorties plus cohérentes.

Benchmarks

Repères

Gemini Diffusion’s external benchmark performance is comparable to much larger models, whilst also being faster.

Les performances de référence externe de la diffusion de Gémeaux sont comparables à des modèles beaucoup plus grands, tout en étant plus rapide.

Methodology

Méthodologie

All scores are pass @1 (no majority voting). The Gemini 2.0 Flash-Lite experiments are run with the AI Studio API for the model-id gemini-2.0-flash-lite with the default sampling settings.

Tous les scores sont passés @ 1 (pas de vote majoritaire). Les expériences Gemini 2.0 Flash-Lite sont exécutées avec l'API Studio AI pour le modèle GEMINI-2.0-Flash-Lite avec les paramètres d'échantillonnage par défaut.

* Non-agentic evaluation (single turn edit only), max prompt length of 32K.

* Évaluation non agentique (modification unique de virage uniquement), longueur d'invite maximale de 32k.

Gemini Diffusion speed

Vitesse de diffusion des Gémeaux

Average sampling speed across reported evals.

Vitesse d'échantillonnage moyenne à travers les étions signalées.

Try Gemini Diffusion

Essayez la diffusion des Gémeaux

Gemini Diffusion is currently available as an experimental demo to help develop and refine future models. If you're interested in getting access to the demo, please sign up to the waitlist.

La diffusion des Gémeaux est actuellement disponible sous forme de démo expérimentale pour aider à développer et à affiner les futurs modèles. Si vous souhaitez accéder à la démo, veuillez vous inscrire à la liste d'attente.