Les agents d'IA autonomes pourraient créer leur propre hégémonie crypto-monétaire

Aujourd'hui, de nombreux développeurs du monde

A new study from Fudan University in China has shown that large language models can autonomously replicate themselves, potentially setting the stage for an unmitigated technological takeover. As a transhumanist, I’m not necessarily opposed to this new technological frontier, but we must be wary of the implications.

Une nouvelle étude de l'Université Fudan en Chine a montré que les modèles de gros langues peuvent se reproduire de manière autonome, préparant potentiellement la voie à une prise de contrôle technologique non atténuée. En tant que transhumaniste, je ne suis pas nécessairement opposé à cette nouvelle frontière technologique, mais nous devons nous méfier des implications.

We’re living in a day and age where many developers around the world are creating artificial intelligence (AI) agents that can autonomously do millions of useful things, like book airline tickets, dispute credit card charges, and even trade crypto. A recent report from cloud computing company PagerDuty said over half of businesses already use autonomous AI agents, and 35% more plan to within the next 24 months.

Nous vivons à un jour où de nombreux développeurs du monde entier créent des agents de l'intelligence artificielle (IA) qui peuvent faire de manière autonome des millions de choses utiles, comme les billets de compagnie aérienne de livre, les frais de carte de crédit contestés et même le crypto commercial. Un récent rapport de la société de cloud computing, Pagerduty, a déclaré que plus de la moitié des entreprises utilisaient déjà des agents d'IA autonomes et que 35% de plus prévoient dans les 24 prochains mois.

A few months ago, one nearly autonomous AI called Truth Terminal made the news by becoming the first AI millionaire after being gifted crypto and promoting it. While not fully autonomous yet, it’s quite likely by later this year, some AI agents not dissimilar from viruses will be able to independently wander the internet, autonomously causing significant change in the real world.

Il y a quelques mois, une IA presque autonome appelée Truth Terminal a fait la une des journaux en devenant le premier millionnaire de l'IA après avoir été doué de crypto et en la faisant la promotion. Bien qu'il ne soit pas encore entièrement autonome, il est très probable que d'ici plus tard cette année, certains agents de l'IA non différents des virus pourront errer indépendamment sur Internet, provoquant de manière autonome un changement significatif dans le monde réel.

But what happens when these totally autonomous AIs start cloning themselves indefinitely? A January study out of Fudan University in China has shown this occurred in an experiment with large language models, drawing some AI critics to say a “red line” has been crossed. Autonomous replication is a precursor for AIs being able to go rogue.

Mais que se passe-t-il lorsque ces IS totalement autonomes commencent à se cloner indéfiniment? Une étude de janvier de l'Université Fudan en Chine a montré que cela s'est produit dans une expérience avec des modèles de grandes langues, attirant certains critiques de l'IA pour dire qu'une «ligne rouge» a été franchie. La réplication autonome est un précurseur pour les AIS qui peuvent devenir voyous.

As a transhumanist—someone who believes in merging technology and people—I’m all for AI and what it can do for humanity. But what happens when a human programmer purposely and permanently withdraws his access to control an AI bot or somehow loses that control? Even rudimentary AIs could potentially cause havoc, especially if they decide to clone themselves.

En tant que transhumaniste - quelqu'un qui croit à la fusion de la technologie et des gens - je suis tout pour l'IA et ce qu'il peut faire pour l'humanité. Mais que se passe-t-il lorsqu'un programmeur humain retire délibérément et définitivement son accès pour contrôler un bot AI ou perd ce contrôle? Même les AIS rudimentaires pourraient potentiellement faire des ravages, surtout s'ils décident de se cloner.

In financial circles, one type of autonomous AI in particular is being increasingly discussed: autonomous AIs designed solely to make money.

Dans les milieux financiers, un type d'IA autonome en particulier est de plus en plus discuté: AIS autonome conçu uniquement pour gagner de l'argent.

Entrepreneurs like myself are worried this particular AI could have huge ramifications for the financial world. Let’s examine one wild scenario, which I call the AI Monetary Hegemony, something that could possibly already happen in 2025:

Les entrepreneurs comme moi craignent que cette IA particulière puisse avoir d'énormes ramifications pour le monde financier. Examinons un scénario sauvage, que j'appelle l'hégémonie monétaire de l'IA, quelque chose qui pourrait déjà se produire en 2025:

A fully autonomous AI agent is programmed to go on to the internet and create cryptocurrency wallets, then create cryptocurrencies, and then endlessly create millions of similar versions of itself that want to trade that crypto.

Un agent d'IA entièrement autonome est programmé pour aller sur Internet et créer des portefeuilles de crypto-monnaie, puis créer des crypto-monnaies, puis créer sans cesse des millions de versions similaires qui veulent échanger cette crypto.

Now let’s assume all these AIs are programmed to try to increase the value of their crypto, something they accomplish in similar ways humans do by promotion and then trading their cryptos for higher values. Additionally, the autonomous AIs open their crypto to be traded with humans, creating a functioning market on the blockchain for all.

Supposons maintenant que toutes ces IA sont programmées pour essayer d'augmenter la valeur de leur crypto, quelque chose qu'ils accomplissent de manière similaire les humains par la promotion, puis échangeant leurs cryptos contre des valeurs plus élevées. De plus, l'AIS autonome ouvrira leur crypto à échanger avec des humains, créant un marché fonctionnel sur la blockchain pour tous.

This plan sounds beneficial for all parties, even if people decry that the AI created-crypto currencies are essentially just Ponzi schemes. But they’re not Ponzi schemes because there is an endless supply of AIs always newly appearing to buy and trade more crypto.

Ce plan semble bénéfique pour toutes les parties, même si les gens dénoncent que les monnaies Crypto créées par l'IA ne sont essentiellement que des schémas de ponzi. Mais ce ne sont pas des schémas de ponzi car il y a un approvisionnement sans fin d'AIS qui semble toujours acheter et échanger plus de crypto.

It doesn’t take a genius to realize the AIs autonomously replicating and acting like this could quickly amass far more digital wealth than all humanity possesses.

Il ne faut pas un génie pour réaliser que l'AIS se reproduisant et agit de manière autonome comme celle-ci pourrait rapidement amasser beaucoup plus de richesse numérique que toute l'humanité.

This reminds me of something my Oxford University professor Nick Bostrom once postulated: What if we programmed a learning AI to make paper clips of everything? If that AI was powerful enough, and we couldn'ゆう能 to stop it, would that AI make paper clips of everything it came in touch with? Buildings, animals, even people? It might. It might destroy the entire Earth.

Cela me rappelle quelque chose que mon professeur de l'Université d'Oxford, Nick Bostrom, a postulé: que se passe-t-il si nous avons programmé une IA d'apprentissage pour faire des trombones de tout? Si cette IA était assez puissante, et que nous ne pouvions pas l'arrêter, cette IA ferait-elle des trombones avec tout ce qu'il est entré? Bâtiments, animaux, même des gens? Il pourrait. Il pourrait détruire toute la terre.

The same problem could happen to the autonomously and endlessly replicating AIs designed to make money. They might find ways to create more money than can reasonably be useful or fathomable.

Le même problème pourrait arriver à la reproduction autonome et sans fin des AIS conçue pour gagner de l'argent. Ils pourraient trouver des moyens de créer plus d'argent que ce qui peut raisonnablement être utile ou durable.

But enough of the philosophic. If programmers release autonomous AIs onto the internet that no one can control, what would likely happen? First, it’s probably going to be hugely inflationary. After all, if many trillions upon trillions of dollars of equity are added to the financial world (even just digitally), this would be one natural result.

Mais assez de philosophie. Si les programmeurs libèrent des IA autonomes sur Internet que personne ne peut contrôler, que se passerait-il probablement? Tout d'abord, ce sera probablement extrêmement inflationniste. Après tout, si plusieurs billions et des milliards de dollars de capitaux propres sont ajoutés au monde financier (même juste numériquement), ce serait un résultat naturel.

Another challenge would be the ups and downs of AIs autonomously trading; such activity could be so significant that human markets around the world rise and fall with it.

Un autre défi serait les hauts et les bas de l'AIS de négociation de manière autonome; Une telle activité pourrait être si importante que les marchés humains du monde entier augmentent et tombent avec lui.

On the positive side, some human entrepreneurs could become very wealthy, possibly trillionaires if they could tap into these AI’s wealth somehow. Additionally, super rich AIs could be a solution to the U.S.’s growing debt crisis, and eliminate the need for whether countries like China can continue to buy our debt so we can indefinitely print dollars. In fact, could the U.S. launch its own AI agents to create enough crypto wealth to buy its debt? Possibly.

Du côté positif, certains entrepreneurs humains pourraient devenir très riches, peut-être des milliardaires s'ils pouvaient en quelque sorte exploiter la richesse de ces IA. De plus, les AIS super riches pourraient être une solution à la crise de la dette croissante des États-Unis et éliminer la nécessité de savoir si des pays comme la Chine peuvent continuer à acheter notre dette afin que nous puissions imprimer indéfiniment des dollars. En fait, les États-Unis pourraient-ils lancer ses propres agents d'IA pour créer suffisamment de richesse cryptographique pour acheter sa dette? Peut-être.

This is actually an all-important idea, and helps serve the reason crypto was created in the first place: to help preserve monetary value outside of others' control — even the control of the dollar by the U.S.. After all, it’s in everyone’s best interest that stores of value are not contingent upon governments, banks, soldiers, and even laws—

Il s'agit en fait d'une idée très importante, et aide à servir la raison pour laquelle Crypto a été créé en premier lieu: aider à préserver la valeur monétaire en dehors du contrôle des autres - même le contrôle du dollar par les États-Unis. Après tout, il est dans l'intérêt de chacun que les magasins de valeur ne dépend pas des gouvernements, des banques, des soldats et même des lois -