OpenAI hat ein Tool zur Erkennung von ChatGPT-generierten Inhalten mit einer Genauigkeit von 99,9 % entwickelt, hat jedoch keine Pläne, es zu veröffentlichen

Das kalifornische Unternehmen hat schon lange angedeutet, dass es an einer Technologie forscht, die Inhalte mit künstlicher Intelligenz (KI) erkennen kann, aber es hat seine Kunden glauben lassen, dass diese Technologie noch Jahre entfernt sei.

OpenAI has reportedly developed a tool that can detect when someone uses ChatGPT to generate content with 99.9% accuracy, but the company has no plans to release it to the public.

Berichten zufolge hat OpenAI ein Tool entwickelt, das mit einer Genauigkeit von 99,9 % erkennen kann, wenn jemand ChatGPT zum Generieren von Inhalten verwendet. Das Unternehmen hat jedoch keine Pläne, es der Öffentlichkeit zugänglich zu machen.

The California company has long hinted that it was researching technology that can detect artificial intelligence (AI) content, but it has led its clients to believe that this technology was years away. However, according to insiders who spoke to the Wall Street Journal (WSJ), this tool has been available for months.

Das kalifornische Unternehmen hat schon lange angedeutet, dass es an einer Technologie forscht, die Inhalte mit künstlicher Intelligenz (KI) erkennen kann, aber es hat seine Kunden glauben lassen, dass diese Technologie noch Jahre entfernt sei. Laut Insidern, die mit dem Wall Street Journal (WSJ) sprachen, ist dieses Tool jedoch schon seit Monaten verfügbar.

Detecting AI-generated content has become a significant challenge as adoption has soared. Legislators have formulated laws that require AI developers to include watermarks and other distinctive features in such content, but none has taken hold.

Die Erkennung von KI-generierten Inhalten ist mit der rasanten Verbreitung zu einer großen Herausforderung geworden. Gesetzgeber haben Gesetze formuliert, die KI-Entwickler dazu verpflichten, Wasserzeichen und andere Unterscheidungsmerkmale in solche Inhalte aufzunehmen, aber keines hat sich durchgesetzt.

This challenge is more prevalent in some fields, like the education system, where a recent study found that 60% of middle- and high-school students use AI to help with schoolwork.

Diese Herausforderung ist in manchen Bereichen noch ausgeprägter, beispielsweise im Bildungssystem, wo eine aktuelle Studie ergab, dass 60 % der Mittel- und Oberstufenschüler KI zur Unterstützung bei Schularbeiten nutzen.

According to OpenAI insiders, this challenge was solved over a year ago by a team that was able to achieve 99.9% accuracy in detecting ChatGPT-generated content. However, the company doesn’t plan on releasing the tool to the public.

Laut OpenAI-Insidern wurde diese Herausforderung vor über einem Jahr von einem Team gelöst, das eine Genauigkeit von 99,9 % bei der Erkennung von ChatGPT-generierten Inhalten erreichen konnte. Das Unternehmen plant jedoch nicht, das Tool der Öffentlichkeit zugänglich zu machen.

“It’s just a matter of pressing a button,” said one of the sources.

„Es ist nur eine Frage des Knopfdrucks“, sagte eine der Quellen.

OpenAI says the delay is necessary to protect the users as the tool presents “important risks.”

Laut OpenAI ist die Verzögerung notwendig, um die Benutzer zu schützen, da das Tool „erhebliche Risiken“ birgt.

“We believe the deliberate approach we’ve taken is necessary given the complexities involved and its likely impact on the broader ecosystem beyond OpenAI,” a company spokesperson told WSJ.

„Wir glauben, dass der bewusste Ansatz, den wir gewählt haben, angesichts der damit verbundenen Komplexität und seiner wahrscheinlichen Auswirkungen auf das breitere Ökosystem über OpenAI hinaus notwendig ist“, sagte ein Unternehmenssprecher gegenüber WSJ.

The firm also claimed that if the technology is available to everyone, bad actors could decipher the technique and develop workarounds.

Das Unternehmen behauptete außerdem, wenn die Technologie für jedermann verfügbar sei, könnten böswillige Akteure die Technik entschlüsseln und Problemumgehungen entwickeln.

However, sources say that the real motive is user retention. A company survey last year found that 70% of ChatGPT users were not in favor of the new tool, with one in three saying they would quit the chatbot and turn to its rivals.

Quellen sagen jedoch, dass das eigentliche Motiv die Nutzerbindung ist. Eine Unternehmensumfrage im letzten Jahr ergab, dass 70 % der ChatGPT-Benutzer das neue Tool nicht befürworteten, wobei jeder Dritte angab, den Chatbot zu verlassen und sich an seine Konkurrenten zu wenden.

Since then, senior executives have suppressed the tool, claiming it wasn’t ready for a public launch. In a meeting two months ago, the top brass stated that this tool, which relies on watermarking outputs, was too controversial and that the company must explore other options.

Seitdem haben leitende Angestellte das Tool unterdrückt und behauptet, es sei noch nicht für eine öffentliche Einführung bereit. Bei einem Treffen vor zwei Monaten erklärten die Spitzenpolitiker, dass dieses Tool, das auf Wasserzeichen-Ergebnissen basiert, zu kontrovers sei und dass das Unternehmen andere Optionen prüfen müsse.

OpenAI rivals, led by Google (NASDAQ: GOOGL), have not fared any better. The search engine giant, whose Gemini LLM is one of the industry leaders, has developed a similar tool, dubbed SynthID, but it has yet to launch it publicly.

Den Konkurrenten von OpenAI, angeführt von Google (NASDAQ: GOOGL), erging es nicht besser. Der Suchmaschinenriese, dessen Gemini LLM zu den Branchenführern gehört, hat ein ähnliches Tool namens SynthID entwickelt, es jedoch noch nicht öffentlich eingeführt.

In order for artificial intelligence (AI) to work right within the law and thrive in the face of growing challenges, it needs to integrate an enterprise blockchain system that ensures data input quality and ownership—allowing it to keep data safe while also guaranteeing the immutability of data.

Damit künstliche Intelligenz (KI) gesetzeskonform funktioniert und angesichts wachsender Herausforderungen erfolgreich sein kann, muss sie ein Enterprise-Blockchain-System integrieren, das die Qualität und den Besitz der Dateneingabe gewährleistet – so dass die Daten sicher bleiben und gleichzeitig die Unveränderlichkeit gewährleistet ist von Daten.

CoinDesk subscribers can access the full story here.

CoinDesk-Abonnenten können hier auf die vollständige Geschichte zugreifen.

Watch: Transformative AI applications are coming

Beobachten Sie: Transformative KI-Anwendungen kommen

New to blockchain? Check out CoinGeek’s Blockchain for Beginners section, the ultimate resource guide to learn more about blockchain technology.

Neu in der Blockchain? Schauen Sie sich den Abschnitt „Blockchain für Anfänger“ von CoinGeek an, den ultimativen Ressourcenleitfaden, um mehr über die Blockchain-Technologie zu erfahren.