|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Articles d’actualité sur les crypto-monnaies
Ces modèles de diffusion maintiennent les performances plus rapidement que ou comparables aux modèles conventionnels de taille similaire
Feb 28, 2025 at 05:14 am
Les chercheurs de LLADA rapportent que leur modèle de 8 milliards de paramètres fonctionne de la même manière que LLAMA3 8B à travers divers repères

Large language models (LLMs) are typically bottlenecked by speed, especially when compared to smaller models. However, new diffusion-based models have reportedly achieved performance faster than or comparable to similarly sized conventional models while also being significantly faster.
Les modèles de grandes langues (LLM) sont généralement goulots d'étranglement par vitesse, en particulier par rapport aux modèles plus petits. Cependant, de nouveaux modèles basés sur la diffusion auraient atteint des performances plus rapidement que ou comparables à des modèles conventionnels de taille similaire tout en étant considérablement plus rapidement.
LLaDA, a 7-billion parameter language model from researchers at the University of Science and Technology of China, performs similarly to LLaMA3 8B across various benchmarks.
LLADA, un modèle de langage de paramètres de 7 milliards de chercheurs de l'Université des sciences et de la technologie de Chine, se produit de la même manière que LLAMA3 8B à travers divers repères.
According to Inception, an AI startup focused on efficient deep learning, LLaDA achieves competitive results on tasks like MMLU, ARC, and GSM8K.
Selon Inception, une startup d'IA s'est concentrée sur un apprentissage en profondeur efficace, la LLADA obtient des résultats compétitifs sur des tâches comme MMLU, ARC et GSM8K.
But when comparing the speed of an 8-billion parameter LLaDA model to an 8-billion parameter LLaMA3 model, LLaDA generates 1,024 tokens per second on an Nvidia H100, whereas LLaMA3 generates about 60 tokens per second. This difference in throughput is roughly 17x.
Mais lorsque vous comparez la vitesse d'un modèle LLADA de 8 milliards de paramètres à un modèle LLAMA3 de 8 milliards de paramètres, LLADA génère 1 024 jetons par seconde sur un NVIDIA H100, tandis que LLAMA3 génère environ 60 jetons par seconde. Cette différence de débit est d'environ 17x.
LLaDA's researchers claim this level of performance is possible with models as small as 3 billion parameters.
Les chercheurs de LLADA affirment que ce niveau de performance est possible avec des modèles aussi petits que 3 milliards de paramètres.
Compared to GPT-4o Mini, which operates at 59 tokens per second, Mercury Coder Mini scores 88.0 percent on HumanEval and 77.1 percent on MBPP—comparable to GPT-4o Mini—while reportedly operating at 1,109 tokens per second. This represents an 18x speed advantage over GPT-4o Mini.
Comparé à GPT-4O Mini, qui opère à 59 jetons par seconde, Mercury Coder Mini score 88,0% sur Humaneval et 77,1% sur le MBPP - comparable à GPT-4O Mini - tout en fonctionnant à 1 109 jetons par seconde. Cela représente un avantage de vitesse 18X par rapport à GPT-4O Mini.
Mercury's documentation states its models run "at over 1,000 tokens/sec on Nvidia H100s, a speed previously possible only using custom chips" from specialized hardware providers like Groq, Cerebras, and SambaNova. When compared to other speed-optimized models, the claimed advantage remains significant—Mercury Coder Mini is reportedly about 5.5x faster than Gemini 2.0 Flash-Lite (201 tokens/second) and 18x faster than Claude 3.5 Haiku (61 tokens/second).
La documentation de Mercury indique que ses modèles fonctionnent "à plus de 1 000 jetons / sec sur NVIDIA H100S, une vitesse auparavant possible à l'aide de puces personnalisées" à partir de fournisseurs de matériel spécialisés comme Groq, Cerebras et Sambanova. Par rapport à d'autres modèles optimisés par la vitesse, l'avantage revendiqué reste important - le codeur Mercury Mini serait environ 5,5 fois plus rapide que Gemini 2.0 Flash-Lite (201 jetons / seconde) et 18 fois plus rapide que Claude 3.5 Haiku (61 jetons / seconde).
According to Inception, Mercury Coder Mini also outperforms smaller models from GPT-3.5 series and PaLM 2 series at comparable speed.
Selon Inception, Mercury Coder Mini surpasse également les modèles plus petits de la série GPT-3.5 et de la série PALM 2 à une vitesse comparable.
At 1,024 tokens per second, LLaDA is faster than smaller models from GPT-3.5 series and PaLM 2 series at comparable speed. At 201 tokens per second, Gemini 2.0 Flash-Lite has better performance at HumanEval and worse performance at MBPP than Mercury Coder Mini. At 61 tokens per second, Claude 3.5 Haiku has better performance at both HumanEval and MBPP than Mercury Coder Mini.
À 1 024 jetons par seconde, le LLADA est plus rapide que les modèles plus petits de la série GPT-3.5 et de la série PALM 2 à une vitesse comparable. À 201 jetons par seconde, Gemini 2.0 Flash-Lite a de meilleures performances chez Humaneval et des performances pires à MBPP que Mercury Coder Mini. À 61 jetons par seconde, Claude 3,5 Haiku a de meilleures performances à la fois chez Humaneval et MBPP que Mercury Coder Mini.
Opening a potential new frontier in LLMs
Ouverture d'une nouvelle frontière potentielle dans les LLM
Diffusion models do involve some trade-offs. They typically need multiple forward passes through the network to generate a complete response, unlike traditional models that need just one pass per token. However, because diffusion models process all tokens in parallel, they achieve higher throughput despite this overhead.
Les modèles de diffusion impliquent certains compromis. Ils ont généralement besoin de plusieurs passes avant le réseau pour générer une réponse complète, contrairement aux modèles traditionnels qui n'ont besoin qu'un seul pass par jeton. Cependant, parce que les modèles de diffusion traitent tous les jetons en parallèle, ils atteignent un débit plus élevé malgré ces frais généraux.
Inception thinks the speed advantages could impact code completion tools where instant response may affect developer productivity, conversational AI applications, resource-limited environments like mobile applications, and AI agents that need to respond quickly.
Inception pense que les avantages de vitesse pourraient avoir un impact sur les outils de complétion du code où la réponse instantanée peut affecter la productivité des développeurs, les applications d'interstance d'interstance conversationnelles, les environnements limités en ressources comme les applications mobiles et les agents d'IA qui doivent répondre rapidement.
If diffusion-based language models maintain quality while improving speed, they might change how AI text generation develops. So far, AI researchers have been open to new approaches.
Si les modèles de langage basés sur la diffusion maintiennent la qualité tout en améliorant la vitesse, ils peuvent changer le développement de la génération de texte de l'IA. Jusqu'à présent, les chercheurs d'IA ont été ouverts à de nouvelles approches.
Independent AI researcher Simon Willison told Ars Technica, "I love that people are experimenting with alternative architectures to transformers, it's yet another illustration of how much of the space of LLMs we haven't even started to explore yet."
Le chercheur indépendant d'IA, Simon Willison, a déclaré à ARS Technica: "J'adore que les gens expérimentent des architectures alternatives aux transformateurs, c'est encore une autre illustration de l'espace des LLM que nous n'avons même pas encore commencé à explorer."
On X, former OpenAI researcher Andrej Karpathy wrote about Inception, "This model has the potential to be different, and possibly showcase new, unique psychology, or new strengths and weaknesses. I encourage people to try it out!"
Sur X, l'ancien chercheur d'Openai, Andrej Karpathy, a écrit sur la création: "Ce modèle a le potentiel d'être différent, et peut-être présenter une psychologie unique et unique, ou de nouvelles forces et faiblesses. J'encourage les gens à l'essayer!"
Questions remain about whether larger diffusion models can match the performance of models like GPT-4o and Claude 3.7 Sonnet, and if the approach can handle increasingly complex simulated reasoning tasks. For now, these models offer an alternative for smaller AI language models that doesn't seem to sacrifice capability for speed.
Des questions demeurent sur la question de savoir si des modèles de diffusion plus importants peuvent correspondre aux performances de modèles comme GPT-4O et Claude 3.7 Sonnet, et si l'approche peut gérer des tâches de raisonnement simulées de plus en plus complexes. Pour l'instant, ces modèles offrent une alternative pour les petits modèles de langage d'IA qui ne semblent pas sacrifier la capacité de la vitesse.
You can try Mercury Coder yourself on Inception's demo site, and you can download code for LLaDA or try a demo on Hugging Face.
Vous pouvez essayer Mercury Coder vous-même sur le site de démonstration de l'Inception, et vous pouvez télécharger du code pour LLADA ou essayer une démo sur le visage étreint.
Clause de non-responsabilité:info@kdj.com
Les informations fournies ne constituent pas des conseils commerciaux. kdj.com n’assume aucune responsabilité pour les investissements effectués sur la base des informations fournies dans cet article. Les crypto-monnaies sont très volatiles et il est fortement recommandé d’investir avec prudence après une recherche approfondie!
Si vous pensez que le contenu utilisé sur ce site Web porte atteinte à vos droits d’auteur, veuillez nous contacter immédiatement (info@kdj.com) et nous le supprimerons dans les plus brefs délais.
-
- Solana alimente les plans de tokenisation de Wall Street : une vision 2027
- Nov 16, 2026 at 08:05 am
- DTCC intègre Solana dans son service de tokenisation d'ici 2027, permettant la tokenisation de 114 000 milliards de dollars de titres, soulignant le rôle de la blockchain dans le rapprochement de la finance traditionnelle et des actifs numériques.
-
- Kava Lend Hack : des millions de jetons KAVA perdus, la sécurité de l'écosystème sous surveillance
- Nov 16, 2026 at 08:00 am
- Kava Lend fait face à une perte importante de jetons KAVA en raison d'un piratage exploitant une faille du marché, soulevant des questions critiques sur la sécurité de l'écosystème Kava et la récupération des fonds des utilisateurs.
-
- DTCC adopte l'avenir multichaîne : ce que cela signifie pour Solana et le XRP Ledger
- Nov 16, 2026 at 04:05 am
- DTCC étend sa stratégie de tokenisation sur plusieurs réseaux blockchain, Solana assurant une intégration clé. Cette approche multichaîne remodèle le paysage des actifs numériques, soulevant des questions sur le rôle du XRP Ledger dans cette infrastructure financière en évolution.
-
- Sui Network, Toncoin, TRON : naviguer dans le paysage cryptographique en évolution
- Nov 14, 2026 at 11:55 pm
- Au milieu des évolutions du marché, Sui Network, Toncoin et TRON révèlent des voies de croissance et des défis distincts. Ce rapport décortique leurs derniers mouvements, de l'essor des comptes TRON aux ajustements de l'écosystème de Sui et à l'intégration de Telegram de Toncoin, offrant des informations à l'investisseur averti.
-
- OKX Europe augmente les limites de remboursement rapide pour le jalonnement de liquides VIP, donnant ainsi le ton à l'industrie
- Nov 14, 2026 at 03:45 pm
- OKX Europe élève les limites quotidiennes de rachat rapide pour les détenteurs de jetons VIP de jalonnement liquide (BETH et OKSOL), améliorant ainsi l'accès à la liquidité et l'expérience utilisateur, tandis que le paysage plus large du jalonnement liquide voit des innovations telles que stPROS de Faroo.
-
- La demande de détail de Bitcoin chute au milieu de la baisse des prix, les indicateurs techniques confirment la tendance baissière
- Nov 14, 2026 at 03:45 pm
- La demande de détail de Bitcoin a plongé de près de 10 % pour atteindre son plus bas niveau depuis mars, avec des prix tombant en dessous de 70 000 $ et des indicateurs techniques pointant vers une tendance baissière persistante.
-
- Pyth Network, Douro Labs et réglementation CFTC : façonner l'avenir de l'intégrité du marché de la cryptographie
- Nov 14, 2026 at 08:05 am
- Douro Labs, un contributeur clé de Pyth Network, s'engage activement avec la CFTC sur les règles du marché de la cryptographie, en plaidant pour une tarification multi-sources et une évaluation Oracle solide pour empêcher la manipulation du marché et protéger les investisseurs.
-
- Blockstream élève la garde de l'entreprise avec Secure-MPC et les HSM Thales pour une sécurité inégalée
- Nov 14, 2026 at 07:55 am
- Blockstream dévoile une solution de conservation d'entreprise révolutionnaire intégrant Secure-MPC et les HSM Thales, établissant ainsi une nouvelle norme en matière de sécurité des actifs numériques institutionnels.
-

































