自律的なAIエージェントは、独自の暗号モネタリーヘゲモニーを作成できます

今日、世界中に多くの開発者がいます。人工知能（AI）エージェントは、何百万もの有用なことを自律的に行​​うことができます

A new study from Fudan University in China has shown that large language models can autonomously replicate themselves, potentially setting the stage for an unmitigated technological takeover. As a transhumanist, I’m not necessarily opposed to this new technological frontier, but we must be wary of the implications.

中国のフーダン大学の新しい研究は、大規模な言語モデルが自律的に自分自身を複製できることを示しており、潜在的に免許のない技術的買収の舞台を設定しています。トランスヒューマニストとして、私は必ずしもこの新しい技術のフロンティアに反対しているわけではありませんが、私たちはその意味に注意しなければなりません。

We’re living in a day and age where many developers around the world are creating artificial intelligence (AI) agents that can autonomously do millions of useful things, like book airline tickets, dispute credit card charges, and even trade crypto. A recent report from cloud computing company PagerDuty said over half of businesses already use autonomous AI agents, and 35% more plan to within the next 24 months.

私たちは、世界中の多くの開発者が人工知能（AI）エージェントを作成している日と年齢で生きています。これは、本の航空券、紛争クレジットカード料金、さらには貿易暗号など、何百万もの有用なことを行うことができます。 Cloud Computing CompanyのPagerdutyからの最近のレポートでは、企業の半数以上がすでに自律AIエージェントを使用しており、今後24か月以内に35％以上の計画があると述べました。

A few months ago, one nearly autonomous AI called Truth Terminal made the news by becoming the first AI millionaire after being gifted crypto and promoting it. While not fully autonomous yet, it’s quite likely by later this year, some AI agents not dissimilar from viruses will be able to independently wander the internet, autonomously causing significant change in the real world.

数ヶ月前、真実ターミナルと呼ばれるほぼ自律的なAIが、暗号を贈られて宣伝した後、最初のAI億万長者になることでニュースを作りました。まだ完全には自律的ではありませんが、今年後半には、ウイルスとは異なるAIエージェントの中には、インターネットを独立してさまようことができる可能性が非常に高い可能性が非常に高く、現実の世界に大きな変化をもたらします。

But what happens when these totally autonomous AIs start cloning themselves indefinitely? A January study out of Fudan University in China has shown this occurred in an experiment with large language models, drawing some AI critics to say a “red line” has been crossed. Autonomous replication is a precursor for AIs being able to go rogue.

しかし、これらの完全に自律的なAIが無期限に自分自身をクローニングし始めるとどうなりますか？中国のフダン大学での1月の研究は、これが大規模な言語モデルでの実験で発生し、「赤い線」が交差したと言うAI批評家を描いたことを示しています。自律的な複製は、AISが不正になることができるための前駆体です。

As a transhumanist—someone who believes in merging technology and people—I’m all for AI and what it can do for humanity. But what happens when a human programmer purposely and permanently withdraws his access to control an AI bot or somehow loses that control? Even rudimentary AIs could potentially cause havoc, especially if they decide to clone themselves.

トランスヒューマニストとして、テクノロジーと人々の融合を信じる人として、私はすべてAIのために、そしてそれが人道のために何ができるかです。しかし、人間のプログラマーがAIボットを制御するために意図的かつ永久にアクセスを撤回したとき、またはそのコントロールを何らかの形で失うとどうなりますか？初歩的なAIでさえ、特に彼らが自分自身をクローンすることを決定した場合、潜在的に大混乱を引き起こす可能性があります。

In financial circles, one type of autonomous AI in particular is being increasingly discussed: autonomous AIs designed solely to make money.

金融サークルでは、特に自律的なAIの1つのタイプがますます議論されています。自律的なAIは、お金を稼ぐためだけに設計されています。

Entrepreneurs like myself are worried this particular AI could have huge ramifications for the financial world. Let’s examine one wild scenario, which I call the AI Monetary Hegemony, something that could possibly already happen in 2025:

私のような起業家は、この特定のAIが金融の世界に大きな影響を与える可能性があるのではないかと心配しています。私が2025年にすでに起こる可能性のあるAI金融覇権と呼ばれる1つの野生のシナリオを調べましょう。

A fully autonomous AI agent is programmed to go on to the internet and create cryptocurrency wallets, then create cryptocurrencies, and then endlessly create millions of similar versions of itself that want to trade that crypto.

完全に自律的なAIエージェントは、インターネットに進み、暗号通貨ウォレットを作成し、暗号通貨を作成し、その暗号を交換したい数百万の同様のバージョンを作成するようにプログラムされています。

Now let’s assume all these AIs are programmed to try to increase the value of their crypto, something they accomplish in similar ways humans do by promotion and then trading their cryptos for higher values. Additionally, the autonomous AIs open their crypto to be traded with humans, creating a functioning market on the blockchain for all.

ここで、これらすべてのAIが暗号の価値を高めようとするようにプログラムされていると仮定しましょう。彼らは、人間が昇進によって行うような方法で達成し、その後、暗号をより高い値と交換することによって達成されます。さらに、自律的なAIは暗号を開いて人間と取引され、すべての人のブロックチェーンで機能する市場を作り出します。

This plan sounds beneficial for all parties, even if people decry that the AI created-crypto currencies are essentially just Ponzi schemes. But they’re not Ponzi schemes because there is an endless supply of AIs always newly appearing to buy and trade more crypto.

この計画は、AIが作成したクリプト通貨が本質的にポンジスキームにすぎないことを人々が非難したとしても、すべての関係者にとって有益なように聞こえます。しかし、それらは常により多くの暗号を購入して交換するAISの無限の供給があるため、ポンジスキームではありません。

It doesn’t take a genius to realize the AIs autonomously replicating and acting like this could quickly amass far more digital wealth than all humanity possesses.

AISが自律的に複製し、このように振る舞うことが、すべての人類が持っているよりもはるかに多くのデジタル富をすぐに蓄積することができることを認識するのに天才は必要ありません。

This reminds me of something my Oxford University professor Nick Bostrom once postulated: What if we programmed a learning AI to make paper clips of everything? If that AI was powerful enough, and we couldn'ゆう能 to stop it, would that AI make paper clips of everything it came in touch with? Buildings, animals, even people? It might. It might destroy the entire Earth.

これは、私のオックスフォード大学教授のニック・ボストロム教授がかつて仮定されたことを思い出させます：学習AIをプログラムして、すべてのペーパークリップを作成した場合はどうなりますか？そのAIが十分に強力で、それを止めることができなかった場合、AIはそれが触れたものすべてのペーパークリップを作るでしょうか？建物、動物、さらには？それはそうかもしれません。それは地球全体を破壊するかもしれません。

The same problem could happen to the autonomously and endlessly replicating AIs designed to make money. They might find ways to create more money than can reasonably be useful or fathomable.

同じ問題は、自律的かつ際限なく複製されたAIを、お金を稼ぐように設計されている可能性があります。彼らは、合理的に有用または推論できるよりも多くのお金を創造する方法を見つけるかもしれません。

But enough of the philosophic. If programmers release autonomous AIs onto the internet that no one can control, what would likely happen? First, it’s probably going to be hugely inflationary. After all, if many trillions upon trillions of dollars of equity are added to the financial world (even just digitally), this would be one natural result.

しかし、哲学的なのは十分です。プログラマーが誰も制御できない自律AISをインターネットにリリースした場合、何が起こる可能性がありますか？第一に、それはおそらく非常にインフレになるでしょう。結局のところ、数兆ドルの株式が金融の世界に追加された場合（デジタルでも）、これは1つの自然な結果になります。

Another challenge would be the ups and downs of AIs autonomously trading; such activity could be so significant that human markets around the world rise and fall with it.

もう1つの課題は、AISの自律的な取引の浮き沈みです。そのような活動は非常に重要であるため、世界中の人間市場がそれに伴って上昇します。

On the positive side, some human entrepreneurs could become very wealthy, possibly trillionaires if they could tap into these AI’s wealth somehow. Additionally, super rich AIs could be a solution to the U.S.’s growing debt crisis, and eliminate the need for whether countries like China can continue to buy our debt so we can indefinitely print dollars. In fact, could the U.S. launch its own AI agents to create enough crypto wealth to buy its debt? Possibly.

ポジティブな面では、一部の人間の起業家は非常に裕福になる可能性があります。さらに、超富裕層AISは、米国の債務危機の増加に対する解決策であり、中国のような国が債務を購入し続けることができるかどうかの必要性を排除し、無期限にドルを印刷できるようにすることができます。実際、米国は独自のAIエージェントを立ち上げて、借金を購入するのに十分な暗号の富を生み出すことができますか？おそらく。

This is actually an all-important idea, and helps serve the reason crypto was created in the first place: to help preserve monetary value outside of others' control — even the control of the dollar by the U.S.. After all, it’s in everyone’s best interest that stores of value are not contingent upon governments, banks, soldiers, and even laws—

これは実際には非常に重要なアイデアであり、そもそもCryptoが作成された理由に役立ちます。他の人のコントロール以外の金銭的価値を維持するのに役立ちます。結局のところ、価値のある店舗が政府、銀行、兵士、さらには法律に依存していないのは、すべての人の最大の利益です。