OpenAI擁有一款高精度檢測AI內容的工具，但尚無(wú)發(fā)布計劃

鞭牛士報道，8月5日消息，據外電報道，OpenAI 似乎正在推遲推出一種新的高精度工具，該工具能夠檢測 ChatGPT 生成的內容，因為擔心它可能被篡改或導致非英語(yǔ)用戶(hù)避免使用人工智能模型生成文本。

該公司在 5 月份的一篇博客文章中提到，它正在研究各種方法來(lái)檢測其產(chǎn)品專(zhuān)門(mén)生成的內容。

8 月 4 日，《華爾街日報》發(fā)表了一篇獨家報道，指出發(fā)布這些工具的計劃因內部關(guān)于發(fā)布后果的爭論而陷入停滯。

在《華爾街日報》報道后，OpenAI 在其 5 月份的博客文章中更新了有關(guān)檢測工具的新信息。盡管該公司警告說(shuō)，至少有一種用于確定文本出處的工具非常準確，甚至對局部篡改也有效，但仍然沒(méi)有發(fā)布時(shí)間表。

不幸的是，該公司聲稱(chēng)仍然存在一些方法可以讓不良行為者繞過(guò)檢測，因此不愿意向公眾公布它。

在另一段中，該公司似乎暗示非英語(yǔ)人士可能會(huì )因為將英語(yǔ)文本翻譯成另一種語(yǔ)言以繞過(guò)檢測而被歧視使用人工智能產(chǎn)品進(jìn)行寫(xiě)作。

「我們正在權衡的另一個(gè)重要風(fēng)險是，我們的研究表明，文本水印方法可能會(huì )對某些群體產(chǎn)生不成比例的影響。例如，它可能會(huì )使非英語(yǔ)母語(yǔ)人士認為人工智能是一種有用的寫(xiě)作工具。」

盡管目前有許多產(chǎn)品和服務(wù)可以檢測人工智能生成的內容，但據我們所知，在同行評審的研究中，沒(méi)有一個(gè)產(chǎn)品和服務(wù)在一般任務(wù)中表現出高度的準確性。

OpenAI 將是第一個(gè)依靠隱形水印和專(zhuān)有檢測方法內部開(kāi)發(fā)的系統，用于檢測公司模型專(zhuān)門(mén)生成的內容。