자율 AI 요원은 자체 암호화 단지 패권을 만들 수 있습니다

오늘날 전 세계에 많은 개발자가 인공 지능 (AI) 에이전트를 만들고 있으며 수백만 건의 유용한 일을 자율적으로 수행 할 수 있습니다.

A new study from Fudan University in China has shown that large language models can autonomously replicate themselves, potentially setting the stage for an unmitigated technological takeover. As a transhumanist, I’m not necessarily opposed to this new technological frontier, but we must be wary of the implications.

중국의 Fudan University의 새로운 연구에 따르면 대형 언어 모델은 자율적으로 스스로 복제 할 수 있으며, 완화되지 않은 기술 인수의 단계를 설정할 수 있습니다. 트랜스 휴먼 론자로서, 나는이 새로운 기술적 경계에 반드시 반대 할 필요는 없지만, 우리는 그 의미에주의를 기울여야합니다.

We’re living in a day and age where many developers around the world are creating artificial intelligence (AI) agents that can autonomously do millions of useful things, like book airline tickets, dispute credit card charges, and even trade crypto. A recent report from cloud computing company PagerDuty said over half of businesses already use autonomous AI agents, and 35% more plan to within the next 24 months.

우리는 전 세계의 많은 개발자들이 책 항공사 티켓, 분쟁 신용 카드 요금, 심지어 트레이드 암호화와 같은 수백만 건의 유용한 일을 자율적으로 수행 할 수있는 인공 지능 (AI) 에이전트를 만들고있는 시대와 시대에 살고 있습니다. 클라우드 컴퓨팅 회사 인 Pagerduty의 최근 보고서에 따르면 절반 이상이 이미 자율적 인 AI 에이전트를 사용하고 있으며 향후 24 개월 내에 35% 더 많은 계획을 세우고 있습니다.

A few months ago, one nearly autonomous AI called Truth Terminal made the news by becoming the first AI millionaire after being gifted crypto and promoting it. While not fully autonomous yet, it’s quite likely by later this year, some AI agents not dissimilar from viruses will be able to independently wander the internet, autonomously causing significant change in the real world.

몇 달 전, 진실 터미널 (Truth Terminal)이라고 불리는 거의 자율적 인 AI는 암호화를 선물하고 홍보 한 후 최초의 AI 백만장자가되어 뉴스를 만들었습니다. 아직 완전히 자율적이지는 않지만 올해 말까지는 바이러스와 다르지 않은 일부 AI 요원이 인터넷을 독립적으로 방황하여 자율적으로 실제 세계에서 상당한 변화를 일으킬 수 있습니다.

But what happens when these totally autonomous AIs start cloning themselves indefinitely? A January study out of Fudan University in China has shown this occurred in an experiment with large language models, drawing some AI critics to say a “red line” has been crossed. Autonomous replication is a precursor for AIs being able to go rogue.

그러나 이러한 완전히 자율적 인 AI가 무기한 복제를 시작하면 어떻게됩니까? 중국의 후단 대학교 (Fudan University)에서 나온 1 월 연구에 따르면 큰 언어 모델에 대한 실험에서 이런 일이 발생했으며 일부 AI 비평가들이“빨간 선”을 넘어 섰다 고 말합니다. 자율적 복제는 AIS가 불량 할 수있는 전구체입니다.

As a transhumanist—someone who believes in merging technology and people—I’m all for AI and what it can do for humanity. But what happens when a human programmer purposely and permanently withdraws his access to control an AI bot or somehow loses that control? Even rudimentary AIs could potentially cause havoc, especially if they decide to clone themselves.

기술과 사람들을 합병하는 것을 믿는 트랜스 휴먼 주의자로서 저는 AI와 인류를 위해 무엇을 할 수 있는지에 대한 전부입니다. 그러나 인간 프로그래머가 의도적으로 영구적으로 AI 봇을 통제하기위한 접근을 철회하거나 어떻게 든 해당 통제력을 잃으면 어떻게됩니까? 기초적인 AI조차도 특히 스스로 복제하기로 결정한 경우 잠재적으로 혼란을 야기 할 수 있습니다.

In financial circles, one type of autonomous AI in particular is being increasingly discussed: autonomous AIs designed solely to make money.

금융 서클에서는 특히 자율 AI의 한 가지 유형이 점점 더 논의되고 있습니다.

Entrepreneurs like myself are worried this particular AI could have huge ramifications for the financial world. Let’s examine one wild scenario, which I call the AI Monetary Hegemony, something that could possibly already happen in 2025:

나와 같은 기업가들은이 특별한 AI가 금융 세계에 큰 영향을 미칠 수 있다고 걱정하고 있습니다. AI Monetary Hegemony라고 부르는 하나의 야생 시나리오를 살펴 보겠습니다. 2025 년에 이미 일어날 수있는 일이 있습니다.

A fully autonomous AI agent is programmed to go on to the internet and create cryptocurrency wallets, then create cryptocurrencies, and then endlessly create millions of similar versions of itself that want to trade that crypto.

완전히 자율적 인 AI 에이전트는 인터넷으로 이동하여 암호 화폐 지갑을 만들고 암호 화폐를 만들고 그 암호화를 거래하려는 수백만 개의 유사한 버전을 끝없이 만듭니다.

Now let’s assume all these AIs are programmed to try to increase the value of their crypto, something they accomplish in similar ways humans do by promotion and then trading their cryptos for higher values. Additionally, the autonomous AIs open their crypto to be traded with humans, creating a functioning market on the blockchain for all.

이제이 모든 AI가 암호화의 가치를 높이기 위해 프로그래밍되었다고 가정 해 봅시다. 인간이 승진과 비슷한 방식으로 성취 한 다음 암호화를 더 높은 가치로 거래합니다. 또한 자율 AI는 암호화를 열어 인간과 거래하여 블록 체인에 기능하는 시장을 만듭니다.

This plan sounds beneficial for all parties, even if people decry that the AI created-crypto currencies are essentially just Ponzi schemes. But they’re not Ponzi schemes because there is an endless supply of AIs always newly appearing to buy and trade more crypto.

이 계획은 AI가 만든 크립토 통화가 본질적으로 Ponzi 체계라고 주장하더라도 모든 당사자에게 유익한 것으로 보입니다. 그러나 그들은 항상 더 많은 암호화를 사고 거래하는 AIS의 끝없는 공급이 있기 때문에 Ponzi 계획이 아닙니다.

It doesn’t take a genius to realize the AIs autonomously replicating and acting like this could quickly amass far more digital wealth than all humanity possesses.

AI가 자율적으로 복제하고 행동하는 것은 모든 인류보다 훨씬 더 많은 디지털 부를 빠르게 모을 수 있다는 것을 깨닫는 데 천재가 필요하지 않습니다.

This reminds me of something my Oxford University professor Nick Bostrom once postulated: What if we programmed a learning AI to make paper clips of everything? If that AI was powerful enough, and we couldn'ゆう能 to stop it, would that AI make paper clips of everything it came in touch with? Buildings, animals, even people? It might. It might destroy the entire Earth.

이것은 옥스포드 대학교 교수 Nick Bostrom이 한 번 가정 한 것을 떠올리게합니다. 그 ai가 충분히 강력하고 우리가 그것을 막을 수 없었다면, Ai는 연락을 취한 모든 것에 대한 종이 클립을 만들 것인가? 건물, 동물, 심지어 사람들? 아마도. 지구 전체를 파괴 할 수 있습니다.

The same problem could happen to the autonomously and endlessly replicating AIs designed to make money. They might find ways to create more money than can reasonably be useful or fathomable.

동일한 문제는 돈을 벌도록 설계된 AIS 자율적이고 끝없이 복제하는 AI에 발생할 수 있습니다. 그들은 합리적으로 유용하거나 추방 가능한 것보다 더 많은 돈을 만들 수있는 방법을 찾을 수 있습니다.

But enough of the philosophic. If programmers release autonomous AIs onto the internet that no one can control, what would likely happen? First, it’s probably going to be hugely inflationary. After all, if many trillions upon trillions of dollars of equity are added to the financial world (even just digitally), this would be one natural result.

그러나 철학적으로 충분합니다. 프로그래머가 아무도 통제 할 수없는 인터넷에 자율 AI를 해제하면 어떻게 될까요? 첫째, 아마도 큰 인플레이션 일 것입니다. 결국, 수조 달러에 많은 수조가 금융 세계에 추가되면 (디지털로도) 이것은 자연스러운 결과 일 것입니다.

Another challenge would be the ups and downs of AIs autonomously trading; such activity could be so significant that human markets around the world rise and fall with it.

또 다른 도전은 AIS의 기복이 자율적으로 거래되는 것입니다. 그러한 활동은 전 세계의 인간 시장이 상승하고 떨어질 정도로 중요 할 수 있습니다.

On the positive side, some human entrepreneurs could become very wealthy, possibly trillionaires if they could tap into these AI’s wealth somehow. Additionally, super rich AIs could be a solution to the U.S.’s growing debt crisis, and eliminate the need for whether countries like China can continue to buy our debt so we can indefinitely print dollars. In fact, could the U.S. launch its own AI agents to create enough crypto wealth to buy its debt? Possibly.

긍정적 인 측면에서, 일부 인간 기업가들은이 AI의 부를 어떻게 든 활용할 수 있다면, 일부 인간 기업가들은 매우 부유하고, 아마도조차도가 될 수 있습니다. 또한, Super Rich AIS는 미국의 부채 위기 증가에 대한 해결책이 될 수 있으며 중국과 같은 국가가 우리의 부채를 계속 구매할 수 있는지에 대한 필요성을 제거하여 비용을 무기한으로 인쇄 할 수 있습니다. 실제로 미국은 자체 AI 요원을 출시하여 부채를 구매하기에 충분한 암호화 자산을 만들 수 있습니까? 혹시.

This is actually an all-important idea, and helps serve the reason crypto was created in the first place: to help preserve monetary value outside of others' control — even the control of the dollar by the U.S.. After all, it’s in everyone’s best interest that stores of value are not contingent upon governments, banks, soldiers, and even laws—

이것은 실제로 가장 중요한 아이디어이며, 암호화가 처음부터 만들어진 이유를 제공하는 데 도움이됩니다. 다른 사람들의 통제 이외의 금전적 가치, 심지어 미국의 달러 통제조차도 금전적 가치를 보존하는 데 도움이됩니다. 결국, 가치의 상점이 정부, 은행, 군인, 심지어 법률에 달려있는 것은 모든 사람의 이익입니다.