OpenAI는 99.9% 정확도로 ChatGPT 생성 콘텐츠를 감지하는 도구를 개발했지만 출시할 계획은 없습니다.

캘리포니아 회사는 오랫동안 인공지능(AI) 콘텐츠를 감지할 수 있는 기술을 연구하고 있음을 암시해 왔지만 고객들은 이 기술이 수년이 걸릴 것이라고 믿게 되었습니다.

OpenAI has reportedly developed a tool that can detect when someone uses ChatGPT to generate content with 99.9% accuracy, but the company has no plans to release it to the public.

OpenAI는 누군가가 ChatGPT를 사용하여 99.9% 정확도로 콘텐츠를 생성하는 경우를 감지할 수 있는 도구를 개발한 것으로 알려졌으나 대중에게 공개할 계획은 없습니다.

The California company has long hinted that it was researching technology that can detect artificial intelligence (AI) content, but it has led its clients to believe that this technology was years away. However, according to insiders who spoke to the Wall Street Journal (WSJ), this tool has been available for months.

캘리포니아 회사는 오랫동안 인공지능(AI) 콘텐츠를 감지할 수 있는 기술을 연구하고 있음을 암시해 왔지만 고객들은 이 기술이 수년이 걸릴 것이라고 믿게 되었습니다. 그러나 월스트리트저널(WSJ)과 인터뷰한 내부자에 따르면 이 도구는 수개월 동안 사용 가능했다고 합니다.

Detecting AI-generated content has become a significant challenge as adoption has soared. Legislators have formulated laws that require AI developers to include watermarks and other distinctive features in such content, but none has taken hold.

AI로 생성된 콘텐츠를 감지하는 것은 채택이 급증함에 따라 중요한 과제가 되었습니다. 입법자들은 AI 개발자가 그러한 콘텐츠에 워터마크 및 기타 고유한 기능을 포함하도록 요구하는 법률을 제정했지만 그 어느 것도 적용되지 않았습니다.

This challenge is more prevalent in some fields, like the education system, where a recent study found that 60% of middle- and high-school students use AI to help with schoolwork.

이러한 문제는 교육 시스템과 같은 일부 분야에서 더 널리 퍼져 있습니다. 최근 연구에 따르면 중, 고등학생의 60%가 학업에 도움을 주기 위해 AI를 사용하는 것으로 나타났습니다.

According to OpenAI insiders, this challenge was solved over a year ago by a team that was able to achieve 99.9% accuracy in detecting ChatGPT-generated content. However, the company doesn’t plan on releasing the tool to the public.

OpenAI 내부자에 따르면 이 문제는 ChatGPT 생성 콘텐츠 감지에서 99.9%의 정확도를 달성할 수 있었던 팀에 의해 1년여 전에 해결되었습니다. 그러나 회사는 이 도구를 대중에게 공개할 계획은 없습니다.

“It’s just a matter of pressing a button,” said one of the sources.

한 소식통은 “단지 버튼만 누르면 되는 문제”라고 말했다.

OpenAI says the delay is necessary to protect the users as the tool presents “important risks.”

OpenAI는 도구가 "중요한 위험"을 제시하므로 사용자를 보호하기 위해 지연이 필요하다고 말합니다.

“We believe the deliberate approach we’ve taken is necessary given the complexities involved and its likely impact on the broader ecosystem beyond OpenAI,” a company spokesperson told WSJ.

회사 대변인은 WSJ에 "우리는 관련된 복잡성과 OpenAI를 넘어 더 넓은 생태계에 미치는 영향을 고려할 때 우리가 취한 신중한 접근 방식이 필요하다고 믿습니다"라고 말했습니다.

The firm also claimed that if the technology is available to everyone, bad actors could decipher the technique and develop workarounds.

또한 이 회사는 해당 기술이 모든 사람에게 제공된다면 악의적인 행위자가 해당 기술을 해독하고 해결 방법을 개발할 수 있다고 주장했습니다.

However, sources say that the real motive is user retention. A company survey last year found that 70% of ChatGPT users were not in favor of the new tool, with one in three saying they would quit the chatbot and turn to its rivals.

그러나 소식통은 실제 동기는 사용자 유지라고 말합니다. 작년 회사 설문조사에 따르면 ChatGPT 사용자의 70%가 새로운 도구를 선호하지 않는 것으로 나타났으며, 3명 중 1명은 챗봇을 종료하고 경쟁업체로 전환하겠다고 말했습니다.

Since then, senior executives have suppressed the tool, claiming it wasn’t ready for a public launch. In a meeting two months ago, the top brass stated that this tool, which relies on watermarking outputs, was too controversial and that the company must explore other options.

그 이후로 고위 경영진은 이 도구가 공개 출시될 준비가 되지 않았다고 주장하면서 이 도구를 억압해 왔습니다. 두 달 전 회의에서 최고 책임자는 워터마킹 출력에 의존하는 이 도구가 너무 논란의 여지가 있으며 회사가 다른 옵션을 모색해야 한다고 말했습니다.

OpenAI rivals, led by Google (NASDAQ: GOOGL), have not fared any better. The search engine giant, whose Gemini LLM is one of the industry leaders, has developed a similar tool, dubbed SynthID, but it has yet to launch it publicly.

Google(NASDAQ: GOOGL)이 이끄는 OpenAI 경쟁사들도 더 나은 성과를 거두지 못했습니다. Gemini LLM이 업계 리더 중 하나인 검색 엔진 거대 기업은 SynthID라는 유사한 도구를 개발했지만 아직 공개적으로 출시하지는 않았습니다.

In order for artificial intelligence (AI) to work right within the law and thrive in the face of growing challenges, it needs to integrate an enterprise blockchain system that ensures data input quality and ownership—allowing it to keep data safe while also guaranteeing the immutability of data.

인공 지능(AI)이 법률 내에서 올바르게 작동하고 점점 커지는 과제에 직면하여 성공하려면 데이터 입력 품질과 소유권을 보장하는 엔터프라이즈 블록체인 시스템을 통합해야 합니다. 이를 통해 데이터를 안전하게 유지하는 동시에 불변성을 보장할 수 있습니다. 데이터.

CoinDesk subscribers can access the full story here.

CoinDesk 구독자는 여기에서 전체 내용을 확인할 수 있습니다.

Watch: Transformative AI applications are coming

보기: 혁신적인 AI 애플리케이션이 등장합니다

New to blockchain? Check out CoinGeek’s Blockchain for Beginners section, the ultimate resource guide to learn more about blockchain technology.

블록체인이 처음이신가요? 블록체인 기술에 대해 자세히 알아보려면 최고의 리소스 가이드인 CoinGeek의 초보자를 위한 블록체인 섹션을 확인하세요.