OpenAI 關於識別 ChatGPT 生成文章的最新說明

新聞視界時報 記者 王秉程 整理報導

OpenAI 已經開發出能夠識別文章內容是否由 ChatGPT 生成的技術。

這些方法包括使用浮水印 (watermark)、分類器 (classifiers) 和元數據 (metadata) 等方式來判斷內容來源。

雖然浮水印技術可以有效地檢測生成內容，但它也存在一定的局限性。

比如，當生成的內容經過翻譯工具轉換語言、使用其他 AI 工具彙整，或進行較大程度的修改時，浮水印技術可能會失效。

技術限制與挑戰

浮水印技術在快速檢測內容是否由 AI 生成方面有其優勢，但也容易受到內容修改和重新處理的影響。

因此，這種技術並不是完全無懈可擊。

OpenAI 表示，分類器和元數據方法也在不斷進行改進，以提高檢測的準確性。

{{AD21}} 

對使用意願和創作的影響

OpenAI 擔心，若過於嚴格地追查內容來源，可能會影響到 AI 工具的使用意願，甚至可能對個人的寫作和創作產生不必要的質疑。

他們認為，這種形式的監控可能會增加不必要的困擾，並對創作者的原創內容造成誤解和挑戰。

未來展望

OpenAI 目前選擇不對外開放這些識別技術，目的是為了平衡技術的應用與使用者的隱私和創作自由。

他們將持續關注技術的發展和應用情況，以期找到最佳的解決方案。

這一決定展示了在技術進步的同時，如何平衡創作自由和技術監控之間的關係，讓我們期待未來在這些領域的更多突破和改進。