用AI打假AI，這些倒反天罡的AI應用正在悄悄走紅|AI新榜
“不要相信你現在看到的任何東西。”這是X上的一位AI圈博主在看完最近爆火的AI偽造版TED演講發(fā)出的感慨。
誰(shuí)還記得，一年前AI生成的視頻是這樣的：
生成式AI將互聯(lián)網(wǎng)帶入到了一個(gè)真假難辨的深偽時(shí)代。
“有圖有真相”在過(guò)去是網(wǎng)友求證文字信息真實(shí)性時(shí)常引用的一句話(huà)，如今即便是圖片和視頻也完全有可能是AI生成的“假象”。
圍繞如何分辨AI，近期社交媒體上掀起了一股AIGC內容打假熱。
實(shí)戰派通過(guò)小游戲練就識別AI的火眼金睛。8月5日微軟總裁Brad Smith在X平臺上發(fā)布了一個(gè)名叫“Real or Not？”的測試小游戲。玩法很簡(jiǎn)單，每一輪游戲有15張圖片，玩家來(lái)判斷哪張是AI生成的，哪張是真實(shí)的。
游戲地址：
021yin.com/
辨別難度之高，只錯一道題的游戲表現可以超過(guò)92%的玩家。
在實(shí)戰派還停留在用肉眼“鑒AI”時(shí)，技術(shù)派寄希望于用AI打敗AI。X博主“Deedy”近期利用Claude的新功能Artifacts開(kāi)發(fā)了一個(gè)簡(jiǎn)易工具，通過(guò)調整圖像飽和度來(lái)識別AI生成的圖片，僅在X平臺上就獲得了超140萬(wàn)的瀏覽量。
工具地址：
雖然這種檢測方法很快被網(wǎng)友實(shí)測打假：僅憑圖片的壓縮跡象和色彩偏差來(lái)推斷圖片是否出自AI之手，這種鑒別方法存在誤導性。因為類(lèi)似的視覺(jué)特征可能僅僅是環(huán)境因素導致的，如光照變化或物體表面的反射效果。
但也從側面體現出，隨著(zhù)AI生成的內容愈發(fā)逼真，越來(lái)越多真假難辨的圖片和視頻正在迅速占領(lǐng)社交媒體，“鑒AI”也因此從創(chuàng )作者維權、約稿插畫(huà)師等小眾圈層需求走向大眾視野。
實(shí)際上，這種需求早已推動(dòng)AI技術(shù)在識別AI生成內容方面的應用。
從文字到圖片再到視頻，都有相應的AI檢測工具陸續問(wèn)世。其中一款AI檢測工具甚至在過(guò)去6個(gè)月里，用戶(hù)規模從100萬(wàn)增長(cháng)到400萬(wàn)，實(shí)現了盈利。這些AI檢測工具靠譜嗎？我們進(jìn)行了一番探究。
用AI打假AI，GPTZero半年增長(cháng)300萬(wàn)用戶(hù)
生成式AI對不同內容形式的影響程度，通常與技術(shù)成熟度、市場(chǎng)需求和用戶(hù)接受度有關(guān)。
在ChatGPT引領(lǐng)的這波生成式AI浪潮中，文本內容是首先取得突破的領(lǐng)域，也是目前AI檢測工具應用較為成熟的領(lǐng)域。
賽道上的佼佼者——GPTZero，僅成立一年半就實(shí)現了數百萬(wàn)美元的收入。在過(guò)去6個(gè)月里，其用戶(hù)規模從100萬(wàn)增長(cháng)到400萬(wàn)，AAR（年度經(jīng)常性收入）增長(cháng)了500%。用戶(hù)群體也從最初以教師為主，擴展到了政府采購機構、慈善機構以及招聘經(jīng)理和AI訓練數據標注員等。
GPTZero由普林斯頓大學(xué)生Edward Tian于2022年底創(chuàng )建，最初只有一個(gè)簡(jiǎn)單的功能，即根據用戶(hù)輸入的內容，返回該內容由AI生成的概率有多大。
GPTZero基本文本檢測的早期UI界面
如今GPTZero的網(wǎng)頁(yè)端已經(jīng)相當完善且易用，用戶(hù)直接在交互框中復制黏貼文本或上傳文件，即可對文本進(jìn)行AI檢測。
GPTZero目前提供免費試用，但每次檢測字符不能超過(guò)5000字。如需進(jìn)行更長(cháng)的本文檢測，可以選擇最低每月10美元的付費訂閱服務(wù)，以獲得更多的字符檢測額度和功能。（體驗地址：/）
在不超過(guò)免費試用字符的情況下，我們分別節選美國憲法、ChatGPT-4o生成的《黑神話(huà)：悟空》大鬧天宮版游戲結局和《西游記》三打白骨精原文對GPTZero進(jìn)行了實(shí)測。
其中，GPTZero在識別美國憲法和ChatGPT-4o生成的文本方面表現出較高的精準度。它成功識別出美國憲法為人類(lèi)撰寫(xiě)的概率高達99%，而ChatGPT-4o生成的文本中只有幾個(gè)句子有“人類(lèi)影響”的痕跡。
美國憲法節選
得到全文檢測結果后，用戶(hù)還可以使用“Deep Scan（深度掃描）”功能進(jìn)一步識別分析每個(gè)單句的AI含量如何。目前免費賬號每天僅支持3次深度掃描。
ChatGPT-4o生成的《黑神話(huà)：悟空》大鬧天宮版游戲結局節選
在識別中文文本上，GPTZero給出的結果相當離譜：它認為《西游記》中三打白骨精原文有75%的概率是AI生成的，但眾所周知《西游記》作者吳承恩可是生活在電腦都還沒(méi)有出現的明代。
《西游記》三打白骨精原文節選
在我們嘗試進(jìn)一步查看該判斷的數據依據時(shí)，GPTZero直接報錯，顯示它不支持對該語(yǔ)言進(jìn)行數據溯源。可見(jiàn)，GPTZero不合適用來(lái)檢測中文文本，可能是其沒(méi)有進(jìn)行過(guò)相關(guān)數據訓練。
此外，相關(guān)的AI數據集和抄襲匹配功能也都僅付費會(huì )員才能使用。
AI文本檢測工具頻繁翻車(chē)，賽道依舊火熱
GPTZero自2023年1月正式推出以來(lái)迅速走紅，重要原因在于它滿(mǎn)足了教育界對于檢測AI作弊的需求。去年10月，GPTZero還和美國教師吉印通會(huì )達成了一項協(xié)議，幫助教師檢測由ChatGPT等大語(yǔ)言模型生成的學(xué)生作業(yè)。
但與此同時(shí)，GPTZero的走紅也伴隨著(zhù)一定爭議。
例如，曾有網(wǎng)友實(shí)測發(fā)現，GPTZero會(huì )把美國憲法誤判為AI生成的文本。
在實(shí)際應用中，GPTZero一類(lèi)的AI檢測工具的準確性也備受質(zhì)疑。如果教師僅依據這類(lèi)工具的結果來(lái)判斷學(xué)生是否利用AI進(jìn)行學(xué)術(shù)造假和寫(xiě)作，可能會(huì )導致無(wú)辜的學(xué)生受到不公正的對待。
這種情況不是個(gè)例。
在A(yíng)I檢測工具的“獵巫”下，即便是那些寫(xiě)作過(guò)程中沒(méi)有用到AI的學(xué)生，為了確保自己的論文能通過(guò)AI檢測，也不得不開(kāi)始氪金使用這類(lèi)工具，識別那些可能被AI標記為“AI生成”的文本段落。
就像大模型對話(huà)類(lèi)產(chǎn)品一樣，GPTZero也在用戶(hù)交互框下加了一行免責聲明的小字：“This result should not be used to directly punish students.（不能依據這個(gè)結果來(lái)懲罰學(xué)生）”。
也就是說(shuō)，GPTZero的檢測結果僅供參考，并不能作為判斷學(xué)生是否利用AI進(jìn)行學(xué)術(shù)寫(xiě)作的最終依據。
而在國外科技媒體TechCrunch實(shí)測中，其他同類(lèi)型工具AI Writing Check、Copyleaks、GPTRadar、CatchGPT和Originality.ai，準確率表現都不如GPTZero。
包括OpenAI也曾在2023年初推出了一款AI檢測工具，但因檢測成功率僅有 26%，七個(gè)月后OpenAI就關(guān)閉了該工具。近期，《華爾街日報》報道稱(chēng)OpenAI已經(jīng)開(kāi)發(fā)出一款能夠高精度識別ChatGPT生成文本的工具，但出于種種利益相關(guān)原因遲遲沒(méi)有發(fā)布。
還有業(yè)內人士認為AI檢測器的反向應用思路是，其難以給出高準確度判斷的內容生成領(lǐng)域，恰好證明是更適合AI產(chǎn)品應用的領(lǐng)域，例如營(yíng)銷(xiāo)文案和廣告語(yǔ)，包括GPTZero在內的主流識別AI檢測器都出現了誤判。
TechCrunch實(shí)測：營(yíng)銷(xiāo)類(lèi)文案所有檢測器都出現誤判
GPTZero的檢測原理中有兩個(gè)重要指標：困惑度和突發(fā)性。困惑度和突發(fā)性越高，文本的“人味”就越高；與之相反，AI生成的文本往往具有較低的困惑度，可預測性更高。
此外，GPTZero的CTO Alex Cui曾透露，GPTZero之所以更準確是因為它擁有更多的數據，檢測使用的大語(yǔ)言模型是基于開(kāi)源工具構建的。
換言之，GPTZero也只是一個(gè)“套殼”產(chǎn)品，但它的優(yōu)勢在于數據。
不止文本，多模態(tài)AI檢測產(chǎn)品正在涌現
文本檢測領(lǐng)域已經(jīng)跑出了一個(gè)GPTZero，而多模態(tài)AI內容檢測的賽道才剛剛方興未艾。
針對圖片、視頻和音頻等內容的AI檢測工具，海外已經(jīng)涌現出了Hive AI、AI or Not、Nuanced等產(chǎn)品。
國內近期官宣內測或上線(xiàn)的多模態(tài)AI內容檢測工具也不少。例如，創(chuàng )始團隊有清華大學(xué)背景的瑞萊智慧（RealAI）推出了一個(gè)面向個(gè)人的產(chǎn)品級檢測工具“尊嘟假嘟”，英文名為RealBelieve，可以讓AI偽造的圖像、音頻和視頻現出原形。
尊嘟假嘟視頻通話(huà)實(shí)時(shí)檢測內測界面，來(lái)源：36氪
無(wú)論是海外還是國內，雖然大部分AI檢測產(chǎn)品主要服務(wù)政府機構和企業(yè)級用戶(hù)，但隨著(zhù)大眾“鑒AI”的需求日益旺盛，一些產(chǎn)品也開(kāi)始向C端用戶(hù)開(kāi)放。
像AI or Not就支持個(gè)人用戶(hù)檢測圖片和音頻，界面交互使用起來(lái)也相當方便。
數字內容偽造檢測企業(yè)“中科睿鑒”近期完成新一輪融資，目的也是將業(yè)務(wù)線(xiàn)從ToG拓展成ToG、B和C三條產(chǎn)品線(xiàn)，實(shí)現AI鑒偽產(chǎn)品的規?；?。
目前，中科睿鑒已面向大眾開(kāi)放了文本、圖像和視頻檢測服務(wù)。在*小程序搜索“睿鑒AI”即可體驗。
與文本檢測一樣，多模態(tài)AI內容檢測工具也存在準確率不高的問(wèn)題。
我們用AI偽造的TED演講美女照片，測了測AI or Not，它認為圖片“Likely Human（大概率是真人）”，如果想進(jìn)一步查看更多檢測信息，則需要付費開(kāi)通會(huì )員。
最近X上也有網(wǎng)友嘗試使用市面上的AI圖像檢測工具，來(lái)鑒別美國大選哈里斯的集會(huì )場(chǎng)面是否是AI生成的。但被人反駁說(shuō)并不存在“所謂的精確的人工智能圖像檢測器”，因為很多用戶(hù)上傳檢測的圖片是失真的，尤其是來(lái)自壓縮視頻的截圖。
生成式AI制造的深度偽造風(fēng)險，僅憑AI檢測工具是不足以解決的，還需要從法律和平臺監管層面共同努力。
而GPTZero創(chuàng )始人Tian提出的AI檢測愿景，也不僅僅只是提供單點(diǎn)的檢測功能，而是通過(guò)創(chuàng )建一個(gè)獨立的互聯(lián)網(wǎng)檢測平臺，確保人類(lèi)和AI生成的內容都能得到正確的歸屬。
