ChatGPT“克星”：用AI識別AI生成的文本，英語(yǔ)論文閱讀條記都能測出

蕭簫 發(fā)自 凹非寺

量子位 | 公家號 QbitAI

ChatGPT的呈現，讓很多人看到了交期末高文業(yè)的曙光 （手動(dòng)狗頭）。

無(wú)論是英語(yǔ)論文、仍是閱讀條記，只要在ChatGPT的常識范疇內，都能夠奉求它幫手完成，寫(xiě)出來(lái)的內容也有理有據。

不外，有沒(méi)有想過(guò)你的教師也籌辦用“ AI文本檢測器”一類(lèi)的工具來(lái)避免你做弊？

像如許輸入一段看起來(lái)沒(méi)弊端的條記，顛末它一番檢測，認為那段文字“由AI編寫(xiě)” （Fake）的可能性為 **.*8%！

△文本由ChatGPT生成

換個(gè)數學(xué)論文嘗嘗？ChatGPT的輸出看起來(lái)沒(méi)啥問(wèn)題，卻仍然被它準確識破了：

△文本由ChatGPT生成

那可不是靠瞎蒙或推測，究竟結果對方同樣是個(gè)AI，仍是個(gè)訓練有素的AI。

看到那有網(wǎng)友調侃：用魔法打敗魔法？

用AI寫(xiě)的工具來(lái)訓練新AI

那個(gè)AI檢測器名叫 GPT-2 Output Detector，是OpenAI吉印通哈佛大學(xué)等高校和機構一路打造的。 （沒(méi)錯，OpenAI自家做的）

但即使是專(zhuān)門(mén)檢測GPT-2的模子，用來(lái)檢測其他AI生成文本效果也同樣不錯。

做者們先是發(fā)布了一個(gè)“GPT-2生成內容”和WebText （專(zhuān)門(mén)從國外貼吧Reddit上扒下來(lái)的）數據集，讓AI理解“AI語(yǔ)言”和“人話(huà)”之間的差別。

隨后，用那個(gè)數據集對RoBERTa模子停止微調，就得到了那個(gè)AI檢測器。

RoBERTa （Robustly Optimized BERT approach）是BERT的改良版。原始的BERT利用了1*GB大小的數據集，但RoBERTa利用了包羅6*00萬(wàn)條英文新聞的160GB數據集。

△文字來(lái)源Medium@Megan Ng

當然，那個(gè)檢測器也并不是100%準確。

同時(shí)，模子生成成果隨機性越高，AI生成內容被檢測出來(lái)的概率也會(huì )更低。

但即使將模子調整到生成隨機性更高 （Temperature=1，越接近0生成隨機性越低），1.24億參數模子被檢測出的概率仍然是88%，1*億參數模子被檢測出的概率仍然有*4%。

那是OpenAI兩年前發(fā)布的模子，其時(shí)對GPT-2生成的內容就“一打一個(gè)準”。

如今面臨晉級版的ChatGPT，檢測英文生成內容的效果照舊能打。

AI檢測器給出是人寫(xiě)的概率為**.*6%……

當然話(huà)說(shuō)回來(lái)，ChatGPT也能檢測本身生成的文本。

One More Thing

值得一提的是，ChatGPT暗示本身其實(shí)不能拜候互聯(lián)網(wǎng)來(lái)搜刮信息。

顯然，它還意識不到GPT-2 Output Detector那個(gè)AI檢測器的存在：

所以能不克不及像網(wǎng)友所說(shuō)，讓ChatGPT生成一段“不被AI檢測器測出來(lái)的”內容呢？

很遺憾不克不及：

所以高文業(yè)仍是本身寫(xiě)吧……

— 完—

「人工智能」、「智能汽車(chē)」微信社群邀你參加！

歡送存眷人工智能、智能汽車(chē)的小伙伴們參加我們，與AI從業(yè)者交換、商討，不錯過(guò)最新行業(yè)開(kāi)展手藝停頓。

PS. 加老友請務(wù)必備注您的姓名-公司-職位哦 ~

點(diǎn)那里 ??存眷我，記得標星哦～

一鍵三連「分享」、「點(diǎn)贊」和「在看」

科技前沿停頓日日相見(jiàn)~