7월 20일 현재, OpenAI 가지다 조용히 플러그를 뽑았다 그들의 A.I. 감지 소프트웨어인 AI Classifier는 다음을 인용합니다. '정확도가 낮습니다.' 이 소식을 처음 듣는다면 놀라지 마십시오. OpenAI는 뉴스를 지하 깊숙이 묻었기 때문에 아무도 알아차리기까지 일주일이 걸렸습니다.
AI Classifier의 최후는 쾅이 아닌 훌쩍이는 소리와 함께 찾아왔습니다. 성명서의 변경 사항을 발표하는 대신 OpenAI는 AI Classifier의 랜딩 페이지를 중단했습니다. 오류 알림 , 그런 다음 사용자에게 도구의 중단을 알리는 두 문장으로 상단에 편집되었습니다. 1월 블로그 게시물 제품을 처음 출시한 것입니다. 업데이트된 게시물에서 OpenAI는 회사가 '보다 효과적인 출처 기술을 연구하고 있다'고 말했습니다.
OpenAI는 1월 블로그 게시물 이외의 논평을 거부했습니다.
AI Classifier의 부정확성은 초기 발표가 강점보다 주의 사항과 제한 사항을 자세히 설명하는 데 더 많은 단어를 사용했다는 점을 감안할 때 그다지 충격적이지 않습니다. OpenAI에 따르면 이 탐지 도구는 A.I.로 작성된 텍스트의 26%만 정확하게 식별할 수 있었고, 더욱 놀랍게도 9%의 경우 오탐(인간이 작성한 텍스트가 A.I.에서 표절되었다고 판단하는 평가)을 내뱉었습니다.
성인 수영 이 집에는 사람이 있습니다
교육자에게는 신뢰할 수 없는 A.I. 표절 탐지기는 혜택보다 훨씬 더 많은 위험을 가져옵니다
AI Classifier의 폐쇄는 특히 교육 부문과 관련이 있습니다. ChatGPT의 생성 학술 기관을 혼란스럽게 보냈습니다. 학생들이 생성적 AI에 점점 더 의존하고 있다는 것이 분명해졌습니다. ~을 위한 거의 모든 것 . 일체 포함. 탐지 소프트웨어는 원래 A.I. 생성 표절이라는 폭풍우가 몰아치는 바다를 통해 교사를 안내할 수 있는 몇 안 되는 등대 중 하나로 여겨졌지만 그 빛이 깜박거리는 것처럼 보입니다.
A.I 전문 미시시피 대학의 마크 왓킨스 교수. 교육에서는 AI Classifier의 종료를 더 큰 문제의 상징으로 봅니다.
“이것은 [A.I. 감지 소프트웨어]는 실제로 전반적으로 작동하지 않습니다.”라고 그는 Observer에 말했습니다. 최근 중단된 사용 A.I. 정확도상의 이유로 탐지 도구 Turnitin.
Watkins는 AI Classifier에 대해 '이 도구가 1월에 출시된 후 7월에 종료되었다는 점을 감안할 때 이것이 작동하지 않는다는 꽤 분명한 징후인 것 같습니다.'라고 말했습니다.
인공지능에 대한 믿음을 잃은 사람은 왓킨스만이 아니다. 탐지 기술; 7월 25일 게시된 트위터 설문 조사에서 응답자 667명 중 15.3%만이 일관되게 정확한 감지기를 만드는 것이 가능하다고 생각한다고 답했습니다.
의 빛 @OpenAI 정확도가 낮아 AI 감지 도구를 종료하는 경우 AI로 작성된 콘텐츠를 정확하게 감지하는 감지기를 누구나 만들 수 있다고 생각하십니까?
— DataChazGPT 🤯 (봇 아님) (@DataChaz) 2023년 7월 25일
결국, ChatGPT의 배후에 있는 회사인 OpenAI가 자사에서 생성된 텍스트를 결정할 수 없다면 소유하다 알고리즘, GPT-0 또는 Originality.AI와 같은 다른 감지 도구가 훨씬 더 나은 것을 상상하기 어렵습니다.
부정확한 A.I. GPT로 작성된 문서 몇 개를 단순히 누락하는 것보다 감지가 더 깊습니다. 캘리포니아 대학교 학생으로서 직접 발견 이번 봄, A.I. 표절 탐지기는 비난에 만족할 수 있으며 교사가 외부 영향 없이 완전히 작성된 에세이에 대해 학생들을 부당하게 보고하도록 유도할 수 있습니다.
이러한 오 탐지도 무작위가 아닙니다. 예를 들어, “비영어권 학생들은 A.I. 탐지기는 A.I를 결정하는 데 사용합니다. 생성된 텍스트”라고 Watkins는 말했습니다.
AI 분류기의 종말은 가시적인 영향이 거의 없지만(온라인에 수천 개가 더 있음) 훨씬 더 큰 것을 상징합니다. ChatGPT에 대한 현재 기술의 광범위한 무능함입니다.
Watkins는 현재 사용 가능한 '탐지 도구를 옹호하거나 권장하지 않는다'고 Observer에 말했습니다.
