OpenAI a développé un outil pour détecter le contenu généré par ChatGPT avec une précision de 99,9 %, mais n'a pas l'intention de le publier

La société californienne a longtemps laissé entendre qu’elle recherchait une technologie capable de détecter le contenu de l’intelligence artificielle (IA), mais elle a laissé croire à ses clients que cette technologie n’arriverait que dans des années.

OpenAI has reportedly developed a tool that can detect when someone uses ChatGPT to generate content with 99.9% accuracy, but the company has no plans to release it to the public.

OpenAI aurait développé un outil capable de détecter quand quelqu'un utilise ChatGPT pour générer du contenu avec une précision de 99,9 %, mais la société n'a pas l'intention de le rendre public.

The California company has long hinted that it was researching technology that can detect artificial intelligence (AI) content, but it has led its clients to believe that this technology was years away. However, according to insiders who spoke to the Wall Street Journal (WSJ), this tool has been available for months.

La société californienne a longtemps laissé entendre qu’elle recherchait une technologie capable de détecter le contenu de l’intelligence artificielle (IA), mais elle a laissé croire à ses clients que cette technologie n’arriverait que dans des années. Cependant, selon des sources internes interrogées par le Wall Street Journal (WSJ), cet outil est disponible depuis des mois.

Detecting AI-generated content has become a significant challenge as adoption has soared. Legislators have formulated laws that require AI developers to include watermarks and other distinctive features in such content, but none has taken hold.

La détection du contenu généré par l’IA est devenue un défi important à mesure que son adoption s’est accélérée. Les législateurs ont formulé des lois exigeant que les développeurs d’IA incluent des filigranes et d’autres caractéristiques distinctives dans ce contenu, mais aucune n’a pris effet.

This challenge is more prevalent in some fields, like the education system, where a recent study found that 60% of middle- and high-school students use AI to help with schoolwork.

Ce défi est plus répandu dans certains domaines, comme le système éducatif, où une étude récente a révélé que 60 % des élèves des collèges et lycées utilisent l’IA pour les aider dans leurs devoirs.

According to OpenAI insiders, this challenge was solved over a year ago by a team that was able to achieve 99.9% accuracy in detecting ChatGPT-generated content. However, the company doesn’t plan on releasing the tool to the public.

Selon les initiés d'OpenAI, ce défi a été résolu il y a plus d'un an par une équipe qui a réussi à atteindre une précision de 99,9 % dans la détection du contenu généré par ChatGPT. Cependant, l’entreprise n’envisage pas de rendre l’outil public.

“It’s just a matter of pressing a button,” said one of the sources.

"Il suffit d'appuyer sur un bouton", a déclaré l'une des sources.

OpenAI says the delay is necessary to protect the users as the tool presents “important risks.”

OpenAI affirme que ce délai est nécessaire pour protéger les utilisateurs car l'outil présente des « risques importants ».

“We believe the deliberate approach we’ve taken is necessary given the complexities involved and its likely impact on the broader ecosystem beyond OpenAI,” a company spokesperson told WSJ.

"Nous pensons que l'approche délibérée que nous avons adoptée est nécessaire compte tenu des complexités impliquées et de son impact probable sur l'écosystème plus large au-delà d'OpenAI", a déclaré un porte-parole de l'entreprise au WSJ.

The firm also claimed that if the technology is available to everyone, bad actors could decipher the technique and develop workarounds.

La société a également affirmé que si la technologie était accessible à tous, les mauvais acteurs pourraient la déchiffrer et développer des solutions de contournement.

However, sources say that the real motive is user retention. A company survey last year found that 70% of ChatGPT users were not in favor of the new tool, with one in three saying they would quit the chatbot and turn to its rivals.

Cependant, des sources affirment que le véritable motif est la fidélisation des utilisateurs. Une enquête menée auprès d'une entreprise l'année dernière a révélé que 70 % des utilisateurs de ChatGPT n'étaient pas favorables au nouvel outil, un sur trois déclarant qu'il quitterait le chatbot et se tournerait vers ses concurrents.

Since then, senior executives have suppressed the tool, claiming it wasn’t ready for a public launch. In a meeting two months ago, the top brass stated that this tool, which relies on watermarking outputs, was too controversial and that the company must explore other options.

Depuis lors, les hauts dirigeants ont supprimé l'outil, affirmant qu'il n'était pas prêt pour un lancement public. Lors d'une réunion il y a deux mois, les hauts dirigeants ont déclaré que cet outil, qui repose sur des résultats de filigrane, était trop controversé et que l'entreprise devait explorer d'autres options.

OpenAI rivals, led by Google (NASDAQ: GOOGL), have not fared any better. The search engine giant, whose Gemini LLM is one of the industry leaders, has developed a similar tool, dubbed SynthID, but it has yet to launch it publicly.

Les concurrents d'OpenAI, menés par Google (NASDAQ : GOOGL), ne s'en sortent pas mieux. Le géant des moteurs de recherche, dont Gemini LLM est l'un des leaders du secteur, a développé un outil similaire, baptisé SynthID, mais il ne l'a pas encore lancé publiquement.

In order for artificial intelligence (AI) to work right within the law and thrive in the face of growing challenges, it needs to integrate an enterprise blockchain system that ensures data input quality and ownership—allowing it to keep data safe while also guaranteeing the immutability of data.

Pour que l'intelligence artificielle (IA) fonctionne dans le respect de la loi et prospère face à des défis croissants, elle doit intégrer un système de blockchain d'entreprise qui garantit la qualité et la propriété de la saisie des données, lui permettant ainsi de protéger les données tout en garantissant également l'immuabilité. de données.

CoinDesk subscribers can access the full story here.

Les abonnés CoinDesk peuvent accéder à l’histoire complète ici.

Watch: Transformative AI applications are coming

Regarder : Des applications d’IA transformatrice arrivent

New to blockchain? Check out CoinGeek’s Blockchain for Beginners section, the ultimate resource guide to learn more about blockchain technology.

Nouveau sur la blockchain ? Consultez la section Blockchain pour les débutants de CoinGeek, le guide de ressources ultime pour en savoir plus sur la technologie blockchain.