AGI: Die wahre Kraft der künstlichen allgemeinen Intelligenz und wie man sie sicher entwickelt

Mit der jüngsten Veröffentlichung des iPhone 16, von dem Apple versprochen hat, dass es für künstliche Intelligenz optimiert ist, ist klar, dass KI offiziell im Vordergrund steht

With the recent release of the iPhone 16, which Apple has promised is optimized for artificial intelligence, it’s clear that AI is officially front of mind, once again, for the average consumer. Yet the technology still remains rather limited compared with the vast abilities the most forward-thinking AI technologists anticipate will be achievable in the near future.

Mit der jüngsten Veröffentlichung des iPhone 16, von dem Apple versprochen hat, dass es für künstliche Intelligenz optimiert ist, wird klar, dass KI für den Durchschnittsverbraucher wieder einmal offiziell im Vordergrund steht. Dennoch bleibt die Technologie immer noch recht begrenzt im Vergleich zu den enormen Fähigkeiten, die die zukunftsorientiertesten KI-Technologen davon ausgehen, dass sie in naher Zukunft erreichbar sein werden.

As much excitement as there still is around the technology, many still fear the potentially negative consequences of integrating it so deeply into society. One common concern is that a sufficiently advanced AI could determine humanity to be a threat and turn against us all, a scenario imagined in many science fiction stories. However, according to a leading AI researcher, most people’s concerns can be alleviated by decentralizing and democratizing AI’s development.

So viel Aufregung um die Technologie auch immer noch herrscht, fürchten viele immer noch die potenziell negativen Folgen einer so tiefen Integration in die Gesellschaft. Eine häufige Sorge besteht darin, dass eine ausreichend fortgeschrittene KI die Menschheit als Bedrohung einstufen und sich gegen uns alle wenden könnte, ein Szenario, das in vielen Science-Fiction-Geschichten vorgestellt wird. Laut einem führenden KI-Forscher können die Bedenken der meisten Menschen jedoch durch eine Dezentralisierung und Demokratisierung der KI-Entwicklung zerstreut werden.

On Episode 46 of The Agenda podcast, hosts Jonathan DeYoung and Ray Salmond separate fact from fiction by speaking with Ben Goertzel, the computer scientist and researcher who first popularized the term “artificial general intelligence,” or AGI. Goertzel currently serves as the CEO of SingularityNET and the ASI Alliance, where he leads the projects’ efforts to develop the world’s first AGI.

In Folge 46 des Podcasts „The Agenda“ trennen die Moderatoren Jonathan DeYoung und Ray Salmond Fakten von Fiktionen, indem sie mit Ben Goertzel sprechen, dem Informatiker und Forscher, der als Erster den Begriff „künstliche allgemeine Intelligenz“ oder AGI populär gemacht hat. Goertzel fungiert derzeit als CEO von SingularityNET und der ASI Alliance, wo er die Bemühungen der Projekte zur Entwicklung des weltweit ersten AGI leitet.

The true power of artificial general intelligence

Die wahre Kraft der künstlichen allgemeinen Intelligenz

Goertzel defines an AGI as “an AI that can do the whole scope of everything that people can do, including the human ability to leap beyond what we’ve been taught.” This differs from the more narrow AIs that have been around for a while, which “do some highly specific things but don’t try to have the whole broad scope of a human mind.”

Goertzel definiert eine AGI als „eine KI, die den gesamten Umfang von allem kann, was Menschen tun können, einschließlich der menschlichen Fähigkeit, über das hinauszugehen, was uns beigebracht wurde.“ Dies unterscheidet sich von den engeren KIs, die es schon seit einiger Zeit gibt und die „einige sehr spezifische Dinge tun, aber nicht versuchen, den gesamten Umfang eines menschlichen Geistes abzubilden“.

While large language models like ChatGPT are capable of performing many general tasks, they don’t qualify as artificial general intelligence because they don’t venture far beyond their training, said Goertzel.

Während große Sprachmodelle wie ChatGPT in der Lage seien, viele allgemeine Aufgaben zu erfüllen, qualifizieren sie sich nicht als künstliche allgemeine Intelligenz, da sie nicht weit über ihr Training hinausgehen, sagte Goertzel.

There are many potentially world-changing benefits that would come from developing an AGI. “We can abolish material scarcity at the level of everyday human life, just like we can drum up all the steaks that our dog wants to eat,” Goertzel said. “We don’t have to work for a living anymore. Things like death and disease should be curable by nanotechnology, which an advanced AI presumably could create.”

Die Entwicklung einer AGI würde viele potenziell weltverändernde Vorteile mit sich bringen. „Wir können materielle Knappheit auf der Ebene des menschlichen Alltags abschaffen, genauso wie wir alle Steaks zusammentrommeln können, die unser Hund essen möchte“, sagte Goertzel. „Wir müssen nicht mehr arbeiten, um unseren Lebensunterhalt zu verdienen. Dinge wie Tod und Krankheit sollten durch Nanotechnologie heilbar sein, was eine fortschrittliche KI vermutlich schaffen könnte.“

Related: OriginTrail on AI, real-world adoption and the value of knowledge: The Agenda podcast

Verwandt: OriginTrail über KI, praktische Einführung und den Wert von Wissen: Der Agenda-Podcast

How to safely develop artificial general intelligence

Wie man künstliche allgemeine Intelligenz sicher entwickelt

However, a powerful AGI is not without its risks. Goertzel told The Agenda that while a Terminator-style world-ending apocalypse is highly unlikely — though it can’t entirely be ruled out — there are other risks inherent in its development. “The idea that human beings could take moderately advanced AIs and use them to do nasty things to other human beings out of their own self-interest, this is a very, very, very clear and palpable risk,” he shared.

Allerdings ist eine leistungsstarke AGI nicht ohne Risiken. Goertzel sagte gegenüber The Agenda, dass eine Weltuntergangs-Apokalypse im Terminator-Stil zwar höchst unwahrscheinlich sei – auch wenn sie nicht ganz ausgeschlossen werden könne –, dass ihre Entwicklung jedoch andere Risiken mit sich bringe. „Die Idee, dass Menschen mäßig fortgeschrittene KIs nutzen könnten, um anderen Menschen aus eigenem Interesse böse Dinge anzutun, ist ein sehr, sehr, sehr klares und greifbares Risiko“, teilte er mit.

The way to avoid these concerns and ensure that AGI is used for the benefit of all humanity is to decentralize and democratize it, according to Goertzel. That way, it cannot be controlled “by a small number of powerful parties with their own narrow interests at heart.”

Der Weg, diese Bedenken zu vermeiden und sicherzustellen, dass AGI zum Wohle der gesamten Menschheit eingesetzt wird, besteht laut Goertzel darin, es zu dezentralisieren und zu demokratisieren. Auf diese Weise könne es nicht „von einer kleinen Anzahl mächtiger Parteien kontrolliert werden, denen ihre eigenen engstirnigen Interessen am Herzen liegen“.

“What you need is some way to decentralize all these processes that the AI is running on, and then you need a way to decentralize the data ingestion into all these processors,” he argued. “This is what SingularityNET was designed to provide. […] Singularity lets you take a collection of AI agents and run them on machines which are owned and controlled by no central party.”

„Was Sie brauchen, ist eine Möglichkeit, all diese Prozesse, auf denen die KI läuft, zu dezentralisieren, und dann brauchen Sie eine Möglichkeit, die Datenaufnahme in all diesen Prozessoren zu dezentralisieren“, argumentierte er. „Das ist es, wofür SingularityNET entwickelt wurde. […] Mit Singularity können Sie eine Sammlung von KI-Agenten auf Maschinen ausführen, die keiner zentralen Partei gehören und von dieser kontrolliert werden.“

To hear more from Goertzel’s conversation with The Agenda — including his thoughts on how AGI could extend the human lifespan, what Hollywood gets right and wrong about AI, and whether AGI will unlock the secrets of the universe — listen to the full episode on Cointelegraph’s Podcasts page, Apple Podcasts or Spotify. And don’t forget to check out Cointelegraph’s full lineup of other shows!

Um mehr aus Goertzels Gespräch mit The Agenda zu erfahren – einschließlich seiner Gedanken darüber, wie AGI die menschliche Lebensspanne verlängern könnte, was Hollywood über KI richtig und falsch macht und ob AGI die Geheimnisse des Universums enthüllen wird – hören Sie sich die vollständige Folge in den Podcasts von Cointelegraph an Seite, Apple Podcasts oder Spotify. Und vergessen Sie nicht, sich das komplette Programm anderer Shows von Cointelegraph anzusehen!

Magazine: Advanced AI system is already ‘self-aware’ — ASI Alliance founder

Magazin: Fortschrittliches KI-System ist bereits „selbstbewusst“ – Gründer der ASI Alliance

This article is for general information purposes and is not intended to be and should not be taken as legal or investment advice. The views, thoughts, and opinions expressed here are the author’s alone and do not necessarily reflect or represent the views and opinions of Cointelegraph.

Dieser Artikel dient allgemeinen Informationszwecken und ist nicht als Rechts- oder Anlageberatung gedacht und sollte auch nicht als solche verstanden werden. Die hier geäußerten Ansichten, Gedanken und Meinungen stammen ausschließlich vom Autor und spiegeln nicht unbedingt die Ansichten und Meinungen von Cointelegraph wider.