AGI : le véritable pouvoir de l’intelligence artificielle générale et comment la développer en toute sécurité

Avec la récente sortie de l'iPhone 16, dont Apple a promis qu'il était optimisé pour l'intelligence artificielle, il est clair que l'IA est officiellement au premier plan.

With the recent release of the iPhone 16, which Apple has promised is optimized for artificial intelligence, it’s clear that AI is officially front of mind, once again, for the average consumer. Yet the technology still remains rather limited compared with the vast abilities the most forward-thinking AI technologists anticipate will be achievable in the near future.

Avec la récente sortie de l'iPhone 16, dont Apple a promis qu'il était optimisé pour l'intelligence artificielle, il est clair que l'IA est officiellement à nouveau au premier plan pour le consommateur moyen. Pourtant, la technologie reste encore assez limitée par rapport aux vastes capacités que les technologues en IA les plus avant-gardistes prévoient d’atteindre dans un avenir proche.

As much excitement as there still is around the technology, many still fear the potentially negative consequences of integrating it so deeply into society. One common concern is that a sufficiently advanced AI could determine humanity to be a threat and turn against us all, a scenario imagined in many science fiction stories. However, according to a leading AI researcher, most people’s concerns can be alleviated by decentralizing and democratizing AI’s development.

Même si la technologie suscite encore beaucoup d’enthousiasme, nombreux sont ceux qui craignent les conséquences potentiellement négatives d’une intégration si profonde dans la société. Une préoccupation commune est qu’une IA suffisamment avancée pourrait déterminer que l’humanité constitue une menace et se retourner contre nous tous, un scénario imaginé dans de nombreux récits de science-fiction. Cependant, selon un éminent chercheur en IA, les inquiétudes de la plupart des gens peuvent être atténuées en décentralisant et en démocratisant le développement de l'IA.

On Episode 46 of The Agenda podcast, hosts Jonathan DeYoung and Ray Salmond separate fact from fiction by speaking with Ben Goertzel, the computer scientist and researcher who first popularized the term “artificial general intelligence,” or AGI. Goertzel currently serves as the CEO of SingularityNET and the ASI Alliance, where he leads the projects’ efforts to develop the world’s first AGI.

Dans l'épisode 46 du podcast The Agenda, les animateurs Jonathan DeYoung et Ray Salmond séparent les faits de la fiction en s'adressant à Ben Goertzel, l'informaticien et chercheur qui a été le premier à populariser le terme « intelligence générale artificielle » ou AGI. Goertzel est actuellement PDG de SingularityNET et de l'ASI Alliance, où il dirige les efforts des projets visant à développer la première AGI au monde.

The true power of artificial general intelligence

Le véritable pouvoir de l’intelligence artificielle générale

Goertzel defines an AGI as “an AI that can do the whole scope of everything that people can do, including the human ability to leap beyond what we’ve been taught.” This differs from the more narrow AIs that have been around for a while, which “do some highly specific things but don’t try to have the whole broad scope of a human mind.”

Goertzel définit une AGI comme « une IA capable de faire tout ce que les gens peuvent faire, y compris la capacité humaine d'aller au-delà de ce qu'on nous a enseigné ». Cela diffère des IA plus étroites qui existent depuis un certain temps, qui « font des choses très spécifiques mais n’essaient pas d’avoir toute la portée d’un esprit humain ».

While large language models like ChatGPT are capable of performing many general tasks, they don’t qualify as artificial general intelligence because they don’t venture far beyond their training, said Goertzel.

Bien que les grands modèles de langage comme ChatGPT soient capables d'effectuer de nombreuses tâches générales, ils ne sont pas considérés comme une intelligence artificielle générale car ils ne s'aventurent pas bien au-delà de leur formation, a déclaré Goertzel.

There are many potentially world-changing benefits that would come from developing an AGI. “We can abolish material scarcity at the level of everyday human life, just like we can drum up all the steaks that our dog wants to eat,” Goertzel said. “We don’t have to work for a living anymore. Things like death and disease should be curable by nanotechnology, which an advanced AI presumably could create.”

Le développement d’une AGI présenterait de nombreux avantages susceptibles de changer le monde. "Nous pouvons abolir la pénurie matérielle au niveau de la vie humaine quotidienne, tout comme nous pouvons préparer tous les steaks que notre chien veut manger", a déclaré Goertzel. « Nous n'avons plus besoin de travailler pour gagner notre vie. Des choses comme la mort et la maladie devraient pouvoir être guéries grâce à la nanotechnologie, qu’une IA avancée pourrait probablement créer.

Related: OriginTrail on AI, real-world adoption and the value of knowledge: The Agenda podcast

Connexes : OriginTrail sur l'IA, l'adoption dans le monde réel et la valeur de la connaissance : podcast The Agenda

How to safely develop artificial general intelligence

Comment développer en toute sécurité l’intelligence artificielle générale

However, a powerful AGI is not without its risks. Goertzel told The Agenda that while a Terminator-style world-ending apocalypse is highly unlikely — though it can’t entirely be ruled out — there are other risks inherent in its development. “The idea that human beings could take moderately advanced AIs and use them to do nasty things to other human beings out of their own self-interest, this is a very, very, very clear and palpable risk,” he shared.

Cependant, une AGI puissante n’est pas sans risques. Goertzel a déclaré à The Agenda que même si une apocalypse de fin du monde de type Terminator est hautement improbable – même si elle ne peut pas être entièrement exclue – il existe d'autres risques inhérents à son développement. « L’idée selon laquelle des êtres humains pourraient utiliser des IA modérément avancées et les utiliser pour faire des choses désagréables à d’autres êtres humains dans leur propre intérêt est un risque très, très, très clair et palpable », a-t-il partagé.

The way to avoid these concerns and ensure that AGI is used for the benefit of all humanity is to decentralize and democratize it, according to Goertzel. That way, it cannot be controlled “by a small number of powerful parties with their own narrow interests at heart.”

La manière d’éviter ces inquiétudes et de garantir que l’AGI soit utilisée au profit de toute l’humanité est de la décentraliser et de la démocratiser, selon Goertzel. De cette façon, il ne peut pas être contrôlé « par un petit nombre de partis puissants ayant à cœur leurs propres intérêts étroits ».

“What you need is some way to decentralize all these processes that the AI is running on, and then you need a way to decentralize the data ingestion into all these processors,” he argued. “This is what SingularityNET was designed to provide. […] Singularity lets you take a collection of AI agents and run them on machines which are owned and controlled by no central party.”

"Ce dont vous avez besoin, c'est d'un moyen de décentraliser tous ces processus sur lesquels l'IA s'exécute, et ensuite vous avez besoin d'un moyen de décentraliser l'ingestion des données vers tous ces processeurs", a-t-il soutenu. « C’est ce pour quoi SingularityNET a été conçu. […] Singularity vous permet de prendre une collection d’agents IA et de les exécuter sur des machines qui n’appartiennent et ne sont contrôlées par aucune partie centrale.

To hear more from Goertzel’s conversation with The Agenda — including his thoughts on how AGI could extend the human lifespan, what Hollywood gets right and wrong about AI, and whether AGI will unlock the secrets of the universe — listen to the full episode on Cointelegraph’s Podcasts page, Apple Podcasts or Spotify. And don’t forget to check out Cointelegraph’s full lineup of other shows!

Pour en savoir plus sur la conversation de Goertzel avec The Agenda – y compris ses réflexions sur la façon dont l'AGI pourrait prolonger la durée de vie humaine, ce qu'Hollywood a de bien et de mal à propos de l'IA et si l'AGI percera les secrets de l'univers – écoutez l'épisode complet sur les podcasts de Cointelegraph. page, Apple Podcasts ou Spotify. Et n'oubliez pas de consulter la programmation complète des autres émissions de Cointelegraph !

Magazine: Advanced AI system is already ‘self-aware’ — ASI Alliance founder

Magazine : Le système d'IA avancé est déjà « conscient de lui-même » — fondateur de l'ASI Alliance

This article is for general information purposes and is not intended to be and should not be taken as legal or investment advice. The views, thoughts, and opinions expressed here are the author’s alone and do not necessarily reflect or represent the views and opinions of Cointelegraph.

Cet article est destiné à des fins d’information générale et n’est pas destiné à être et ne doit pas être considéré comme un conseil juridique ou en investissement. Les points de vue, pensées et opinions exprimés ici appartiennent uniquement à l'auteur et ne reflètent pas ou ne représentent pas nécessairement les points de vue et opinions de Cointelegraph.