OpenAI用來驗證文章是否由AI生成的工具AI Classifier悄悄關閉,原因是準確率太低還不如用猜的

OpenAI用來驗證文章是否由AI生成的工具AI Classifier悄悄關閉,原因是準確率太低還不如用猜的

OpenAI 官方在他們介紹自家用來驗證文字是否由AI生成的AI檢測工具AI Classifier的頁面下,悄悄宣佈將關閉這項服務,原因是準確率太低。

OpenAI用來驗證文章是否由AI生成的工具AI Classifier悄悄關閉,原因是準確率太低還不如用猜的

AI Classifier主要用於區分文字是由人類撰寫還是 AI 生成的,不過在上線之後,OpenAI 發現精準性並不高。

OpenAI 表示, 由於準確率太低,因此從 2023 年 7 月 20 日開始,AI Classifier不再開放。並且正在努力採納回饋意見,研究更有效的文本檢測技術,並承諾將會持續開發和部署相關機制,讓用戶者能夠瞭解音訊或影片內容是否由人工智慧生成。

OpenAI用來驗證文章是否由AI生成的工具AI Classifier悄悄關閉,原因是準確率太低還不如用猜的

事實上,當初在發表之初,他們官方就已經先表示AI Classifier有其能力限制,答案並不能完全信任。在他們先前的測試評估中,AI Classifier能挑出AI撰寫文件的比例準確度僅26% ,並且在 9% 的情況下會將人類編寫的內容錯誤地標記為AI編寫。

僅僅26%準確度的比例,已經快要跟用猜的差不多了。而上述的準確度還是在今年一月底當時的測試。AI生成文字在這半年間進化又變得非常大,可想而知AI Classifier的準確度只會更低。

所以,如果連OpenAI官方都說他們沒辦法判別文章是否由AI生成了,那麼坊間有一堆號稱能檢驗AI生成的工具,就更不可能做到了。

 

 

 

janus
作者

PC home雜誌、T客邦產業編輯,曾為多家科技雜誌撰寫專題文章,主要負責作業系統、軟體、電商、資安、A以及大數據、IT領域的取材以及報導,以及軟體相關教學報導。

使用 Facebook 留言
發表回應
謹慎發言,尊重彼此。按此展開留言規則