OpenAIはChatGPTで生成されたコンテンツを99.9%の精度で検出するツールを開発したが、リリースする予定はない

カリフォルニア州の同社は、人工知能（AI）コンテンツを検出できる技術を研究していることを長い間ほのめかしてきたが、この技術が実現するのは何年も先のことだと顧客に信じ込ませてきた。

OpenAI has reportedly developed a tool that can detect when someone uses ChatGPT to generate content with 99.9% accuracy, but the company has no plans to release it to the public.

OpenAI は、誰かが ChatGPT を使用してコンテンツを生成することを 99.9% の精度で検出できるツールを開発したと伝えられていますが、同社はそれを一般公開する予定はありません。

The California company has long hinted that it was researching technology that can detect artificial intelligence (AI) content, but it has led its clients to believe that this technology was years away. However, according to insiders who spoke to the Wall Street Journal (WSJ), this tool has been available for months.

カリフォルニア州の同社は、人工知能（AI）コンテンツを検出できる技術を研究していることを長い間ほのめかしてきたが、この技術が実現するのは何年も先のことだと顧客に信じ込ませてきた。しかし、ウォール・ストリート・ジャーナル（WSJ）の取材に応じた内部関係者によると、このツールは数カ月前から利用可能になっていたという。

Detecting AI-generated content has become a significant challenge as adoption has soared. Legislators have formulated laws that require AI developers to include watermarks and other distinctive features in such content, but none has taken hold.

AI の導入が急増するにつれて、AI によって生成されたコンテンツを検出することが重要な課題となっています。議員らはAI開発者に対し、そのようなコンテンツに透かしやその他の特徴的な機能を含めることを義務付ける法律を制定しているが、どれも定着していない。

This challenge is more prevalent in some fields, like the education system, where a recent study found that 60% of middle- and high-school students use AI to help with schoolwork.

この課題は教育システムなどの一部の分野でより顕著であり、最近の調査では中高生の 60% が学業を支援するために AI を使用していることが判明しました。

According to OpenAI insiders, this challenge was solved over a year ago by a team that was able to achieve 99.9% accuracy in detecting ChatGPT-generated content. However, the company doesn’t plan on releasing the tool to the public.

OpenAI 内部関係者によると、この課題は 1 年以上前に、ChatGPT で生成されたコンテンツの検出において 99.9% の精度を達成することができたチームによって解決されました。ただし、同社はこのツールを一般公開する予定はない。

“It’s just a matter of pressing a button,” said one of the sources.

関係者の一人は「ボタンを押すだけだ」と語った。

OpenAI says the delay is necessary to protect the users as the tool presents “important risks.”

OpenAIは、このツールには「重大なリスク」があるため、ユーザーを保護するために延期が必要だと述べている。

“We believe the deliberate approach we’ve taken is necessary given the complexities involved and its likely impact on the broader ecosystem beyond OpenAI,” a company spokesperson told WSJ.

同社の広報担当者は「関連する複雑さと、OpenAIを超えた広範なエコシステムに与える可能性のある影響を考慮すると、これまでにとった計画的なアプローチが必要だと考えている」とWSJに語った。

The firm also claimed that if the technology is available to everyone, bad actors could decipher the technique and develop workarounds.

同社はまた、この技術が誰でも利用できるようになれば、悪意のある者がその技術を解読し、回避策を開発する可能性があるとも主張した。

However, sources say that the real motive is user retention. A company survey last year found that 70% of ChatGPT users were not in favor of the new tool, with one in three saying they would quit the chatbot and turn to its rivals.

しかし、情報筋によると、本当の目的はユーザーの維持だという。昨年の同社の調査では、ChatGPT ユーザーの 70% がこの新しいツールに好意的ではなく、3 人に 1 人がチャットボットをやめてライバルに頼ると回答したことがわかりました。

Since then, senior executives have suppressed the tool, claiming it wasn’t ready for a public launch. In a meeting two months ago, the top brass stated that this tool, which relies on watermarking outputs, was too controversial and that the company must explore other options.

それ以来、上級幹部らはこのツールを一般公開する準備ができていないと主張して、このツールを隠蔽してきた。 2か月前の会議で、上層部は、透かし出力に依存するこのツールはあまりにも物議を醸しており、会社は他の選択肢を検討する必要があると述べた。

OpenAI rivals, led by Google (NASDAQ: GOOGL), have not fared any better. The search engine giant, whose Gemini LLM is one of the industry leaders, has developed a similar tool, dubbed SynthID, but it has yet to launch it publicly.

Google (NASDAQ: GOOGL) が率いる OpenAI のライバル企業も、これ以上の成績を収めていません。 Gemini LLM が業界リーダーの 1 つである検索エンジン大手は、SynthID と呼ばれる同様のツールを開発しましたが、まだ一般公開されていません。

In order for artificial intelligence (AI) to work right within the law and thrive in the face of growing challenges, it needs to integrate an enterprise blockchain system that ensures data input quality and ownership—allowing it to keep data safe while also guaranteeing the immutability of data.

人工知能 (AI) が法律の範囲内で正しく機能し、増大する課題に直面して成功するためには、データ入力の品質と所有権を保証するエンタープライズ ブロックチェーン システムを統合する必要があります。これにより、データの安全性を確保しながら不変性も保証できるようになります。データの。

CoinDesk subscribers can access the full story here.

CoinDesk の購読者は、ここから全文にアクセスできます。

Watch: Transformative AI applications are coming

見る: 革新的な AI アプリケーションが登場する

New to blockchain? Check out CoinGeek’s Blockchain for Beginners section, the ultimate resource guide to learn more about blockchain technology.

ブロックチェーンは初めてですか? CoinGeekの「初心者向けブロックチェーン」セクションをチェックしてください。これは、ブロックチェーンテクノロジーについて詳しく学ぶための究極のリソースガイドです。