|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Articles d’actualité sur les crypto-monnaies
Petit modèle, récursif, apprentissage automatique : moins c'est plus ?
Oct 20, 2025 at 02:31 am
Explorer la tendance des modèles minuscules et récursifs dans l'apprentissage automatique, en se concentrant sur TRM et ses implications en termes d'efficacité et de performances.

The world of machine learning is constantly evolving, with researchers always seeking ways to improve performance and efficiency. Lately, there's been buzz around 'Tiny model, recursive, machine learning' approaches. Let's dive into what's shaking in this field.
Le monde de l’apprentissage automatique est en constante évolution, les chercheurs cherchant toujours des moyens d’améliorer les performances et l’efficacité. Dernièrement, il y a eu un buzz autour des approches de « modèle minuscule, récursif, d'apprentissage automatique ». Plongeons dans ce qui bouge dans ce domaine.
The Rise of Tiny Recursive Models
L'essor des petits modèles récursifs
The recent work on TRM (Tiny Recursive Model) is questioning the necessity of complexity. TRM contains 5M-19M parameters, versus 27M in HRM. These models represent a fascinating shift towards simplicity and efficiency, challenging the conventional wisdom that bigger is always better.
Les travaux récents sur le TRM (Tiny Recursive Model) questionnent la nécessité de la complexité. TRM contient 5 M à 19 M de paramètres, contre 27 M dans HRM. Ces modèles représentent un changement fascinant vers la simplicité et l’efficacité, remettant en question l’idée reçue selon laquelle plus grand est toujours mieux.
TRM: A Closer Look
TRM : un examen plus approfondi
TRM simplifies the recursive process, designed with one small network, which is essentially a standard transformer block: [self-attention, norm, MLP, norm]. The model is designed so that there’s one small network, which is essentially a standard transformer block: [self-attention, norm, MLP, norm]. In the original idea, there were 4 such blocks (but after experiments they came to 2).
TRM simplifie le processus récursif, conçu avec un petit réseau, qui est essentiellement un bloc de transformateur standard : [auto-attention, norme, MLP, norme]. Le modèle est conçu de telle sorte qu'il existe un petit réseau, qui est essentiellement un bloc de transformateur standard : [auto-attention, norme, MLP, norme]. Dans l'idée originale, il y avait 4 blocs de ce type (mais après expériences, ils sont arrivés à 2).
At the input, it has three elements: input (x), latent (z), and prediction (y); they’re all summed into one value. The basic iteration, analogous to the L module in HRM, generates a latent value (z, also denoted in the recursion formula as z_L) at the layer output, and the updated z goes back to the module input, where it now adds to input (x) not as zero. The output-prediction (y, also denoted in the formula as z_H) is also added, but since it hasn’t been updated, it doesn’t change anything.
En entrée, il comporte trois éléments : entrée (x), latent (z) et prédiction (y) ; ils sont tous résumés en une seule valeur. L'itération de base, analogue au module L dans HRM, génère une valeur latente (z, également désignée dans la formule de récursion par z_L) à la sortie de la couche, et le z mis à jour retourne à l'entrée du module, où il s'ajoute désormais à l'entrée (x) non pas comme zéro. La prédiction de sortie (y, également notée z_H dans la formule) est également ajoutée, mais comme elle n'a pas été mise à jour, cela ne change rien.
Key Insights and Performance
Informations clés et performances
TRM achieves higher numbers than HRM: 74.7%/87.4% (attention version/MLP version) versus 55% for Sudoku, 85.3% (attention version, MLP version gives 0) versus 74.5% for Maze, 44.6%/29.6% (attn/MLP) versus 40.3% for ARC-AGI-1 and 7.8%/2.4% (attn/MLP) versus 5.0% for ARC-AGI-2. The experiments don’t look very expensive; runtime from <24 hours to about three days maximum on 4*H100 according to the repo.
TRM obtient des chiffres plus élevés que HRM : 74,7%/87,4% (version attention/version MLP) contre 55% pour Sudoku, 85,3% (version attention, version MLP donne 0) contre 74,5% pour Maze, 44,6%/29,6% (attn/MLP) contre 40,3% pour ARC-AGI-1 et 7,8%/2,4% (attn/MLP) contre 5,0 % pour ARC-AGI-2. Les expériences ne semblent pas très coûteuses ; durée d'exécution de <24 heures à environ trois jours maximum sur 4*H100 selon le repo.
My Two Cents
Mes deux cents
While the theoretical underpinnings of why these recursions work so well might not be fully understood yet, the empirical results are hard to ignore. TRM's architectural inventiveness, as opposed to eternal model scaling, is a breath of fresh air. It would be interesting how it would be with dataset scaling.
Même si les fondements théoriques expliquant pourquoi ces récursions fonctionnent si bien ne sont peut-être pas encore entièrement compris, les résultats empiriques sont difficiles à ignorer. L'inventivité architecturale de TRM, par opposition à la mise à l'échelle éternelle des modèles, est une bouffée d'air frais. Il serait intéressant de savoir comment cela se passerait avec la mise à l'échelle des ensembles de données.
Looking Ahead
Regarder vers l'avenir
The journey of 'Tiny model, recursive, machine learning' is just beginning. There's a lot more to explore. So, let's keep an eye on these tiny titans and see where they take us next. Good recursions to everyone!
Le voyage du « petit modèle, récursif, apprentissage automatique » ne fait que commencer. Il y a beaucoup plus à explorer. Alors gardons un œil sur ces petits titans et voyons où ils nous mèneront ensuite. Bonnes récursions à tous !
Clause de non-responsabilité:info@kdj.com
Les informations fournies ne constituent pas des conseils commerciaux. kdj.com n’assume aucune responsabilité pour les investissements effectués sur la base des informations fournies dans cet article. Les crypto-monnaies sont très volatiles et il est fortement recommandé d’investir avec prudence après une recherche approfondie!
Si vous pensez que le contenu utilisé sur ce site Web porte atteinte à vos droits d’auteur, veuillez nous contacter immédiatement (info@kdj.com) et nous le supprimerons dans les plus brefs délais.
-
- Trezor est confronté cette année à une violation de données de tiers : les problèmes de données client, de violation de partenaires et de violations de tiers augmentent
- Nov 17, 2026 at 12:05 pm
- Les données client de Trezor, les violations de partenaires et les incidents de violation par des tiers mettent en évidence des risques importants pour les détenteurs de crypto. Une récente violation chez le partenaire d'expédition Skladon a révélé 27 000 commandes, à la suite d'incidents précédents.
-
- Analyse des prix injectifs (INJ) : le boost des ETF et les mises à niveau du protocole stimulent la dynamique des actifs cryptographiques
- Nov 17, 2026 at 11:55 am
- Le prix de l'INJ d'Injective connaît une hausse alimentée par le premier ETF mis en bourse coté aux États-Unis et la prochaine mise à niveau de Veyra, signalant une forte dynamique des actifs cryptographiques.
-
- Hausse des prix de Pepe (PEPE) : une lueur d’espoir dans un océan de peur ?
- Nov 17, 2026 at 11:55 am
- Après une semaine difficile, Pepe (PEPE) montre des signes de vie avec une légère hausse des prix, laissant les investisseurs se demander s'il s'agit d'une véritable reprise ou simplement d'un arrêt avant une nouvelle baisse.
-
- XRP fait face à des problèmes de prix au milieu des sorties d'ETF au comptant et de la pression de vente à l'échelle du marché
- Nov 17, 2026 at 07:55 am
- Le XRP connaît des baisses de prix significatives, reflétant les tendances plus larges du marché entraînées par les sorties d’ETF et les préoccupations macroéconomiques.
-
-
- Solana alimente les plans de tokenisation de Wall Street : une vision 2027
- Nov 16, 2026 at 08:05 am
- DTCC intègre Solana dans son service de tokenisation d'ici 2027, permettant la tokenisation de 114 000 milliards de dollars de titres, soulignant le rôle de la blockchain dans le rapprochement de la finance traditionnelle et des actifs numériques.
-
- Kava Lend Hack : des millions de jetons KAVA perdus, la sécurité de l'écosystème sous surveillance
- Nov 16, 2026 at 08:00 am
- Kava Lend fait face à une perte importante de jetons KAVA en raison d'un piratage exploitant une faille du marché, soulevant des questions critiques sur la sécurité de l'écosystème Kava et la récupération des fonds des utilisateurs.
-
- DTCC adopte l'avenir multichaîne : ce que cela signifie pour Solana et le XRP Ledger
- Nov 16, 2026 at 04:05 am
- DTCC étend sa stratégie de tokenisation sur plusieurs réseaux blockchain, Solana assurant une intégration clé. Cette approche multichaîne remodèle le paysage des actifs numériques, soulevant des questions sur le rôle du XRP Ledger dans cette infrastructure financière en évolution.
-
- Sui Network, Toncoin, TRON : naviguer dans le paysage cryptographique en évolution
- Nov 14, 2026 at 11:55 pm
- Au milieu des évolutions du marché, Sui Network, Toncoin et TRON révèlent des voies de croissance et des défis distincts. Ce rapport décortique leurs derniers mouvements, de l'essor des comptes TRON aux ajustements de l'écosystème de Sui et à l'intégration de Telegram de Toncoin, offrant des informations à l'investisseur averti.

































