AI究竟“騙”了多少人？
AI生成圖
文｜中科創(chuàng )星
“人工智能”（AI）這個(gè)詞匯，近年來(lái)已成為科技領(lǐng)域的一大熱點(diǎn)。然而，隨著(zhù)AI技術(shù)的不斷發(fā)展，人們不禁要問(wèn)：AI究竟“欺騙”了多少人？從語(yǔ)音助手到自動(dòng)駕駛，從人臉識別到智能推薦，AI技術(shù)已深入到我們生活的方方面面……
先暫停一下。如果我不主動(dòng)坦白，你能想象前面這一段話(huà)，是完全由AI大模型生成的嗎？
2022年以來(lái)，以ChatGPT為開(kāi)端的大模型應用紛紛落地，大語(yǔ)言的、文生圖的、文生音樂(lè )的，再到文生視頻的，每一款新的大模型產(chǎn)品仿佛都在試探人類(lèi)生產(chǎn)力的上限，給“創(chuàng )作”這件事帶來(lái)新的想象。
AI的能力實(shí)現了跨越式的發(fā)展，圖靈測試難再作為判斷AI與否的手段。這為我們的工作和生活帶來(lái)了極大的便利，也帶來(lái)了一些困擾。
眼下最嚴峻的問(wèn)題，是AI詐騙。
反AI詐騙，迫在眉睫
AI工具的實(shí)用性在過(guò)去幾年越發(fā)地有口皆碑，但嘗到甜頭的不止是一般用戶(hù)，也有不法分子。
在網(wǎng)絡(luò )安全公司奇安信發(fā)布的《2024人工智能安全報告》中提到，2023年基于A(yíng)I的深度偽造欺詐暴增了3000%，而基于A(yíng)I的釣魚(yú)郵件數量增長(cháng)了 1000%。該報告指出，各類(lèi)基于A(yíng)I的新型攻擊種類(lèi)與手段不斷出現，甚至已經(jīng)泛濫，成為迫在眉睫的威脅。
而依據瑞萊智慧公布的數據，國內AI詐騙案件的涉案金額已經(jīng)從2020年的0.2萬(wàn)元，增長(cháng)至2023年的1670萬(wàn)元，年復合增長(cháng)率達1928.8%。2024年剛剛過(guò)半，發(fā)生的AI詐騙案件已經(jīng)超過(guò)1.85億元，態(tài)勢嚴峻。
近5年國內AI詐騙案件數量與金額變化
當電信詐騙披上AI的“外殼”，很多風(fēng)險都應該被重新審視一遍，比如“耳聽(tīng)為虛”，但“眼見(jiàn)也不一定為實(shí)”。
落實(shí)具體案例上，這些基于DeepFake（深度偽造）的AI詐騙可能會(huì )是這樣的——
詐騙團隊不知從哪拿到了你的照片，用AI合成到了一條低俗視頻里，給你發(fā)了短信，要求你轉賬刪除。但這視頻制作得相當粗劣，人臉處“貼圖感”和“邊緣鋸齒”過(guò)于明顯，你可能一笑而過(guò)、不會(huì )上套，但自己被貼到視頻上這件事總還是讓你覺(jué)得別扭。
利用AI換臉進(jìn)行詐騙的短信
2023年初，武漢警方還破獲了這樣一個(gè)詐騙案件。楊女士在吉印通13816211622上收到了自稱(chēng)“女兒同學(xué)”的人發(fā)來(lái)的語(yǔ)音，內容大意是其女兒手機沒(méi)電，急需楊女士3.5萬(wàn)元繳納培訓報名費用，楊女士聽(tīng)到語(yǔ)音中的音色確實(shí)是自己女兒，于是立刻就匯了款。直到更晚些時(shí)候，楊女士和女兒通話(huà)才發(fā)覺(jué)自己被騙。
有的詐騙團隊手段還要更加高明。2024年初就有一家跨國公司香港分部的職員受邀參加總部首席財務(wù)官發(fā)起的“多人視頻會(huì )議”，并按照要求先后轉賬多次，將2億港元分別轉賬15次轉到5個(gè)賬戶(hù)內。事后得知受騙后，才發(fā)現那場(chǎng)會(huì )議中，除了他自己以外，其它與會(huì )人員全部是經(jīng)過(guò)“AI換臉”和“AI換聲”的詐騙團隊。
圖片來(lái)源：央視
在這場(chǎng)有預謀、有規劃，更有技術(shù)的大型“仙人跳”中，騙子們利用AI偽裝得幾乎天衣無(wú)縫。即使事件的主角換成我們，若沒(méi)有足夠的警惕，也難免會(huì )落入圈套。
DeepFake也不是隨便就能偽造的，它依賴(lài)于足夠的素材。比如偽造視頻需要被偽造人的照片或者視頻素材，偽造聲音則需要相應的聲音素材。但獲取這些信息，遠比你想象中的更加簡(jiǎn)單。
比如前文提到的楊女士被騙的案例，騙子通過(guò)給楊女士女兒撥打了十余個(gè)陌生騷擾電話(huà)，通過(guò)對方寥寥幾句的詢(xún)問(wèn)，采集到了足夠的聲音素材，以此成功實(shí)施詐騙。
今年4月，更有國內上市公司宣稱(chēng)，可以“一句話(huà)復刻媲美真人、流暢自然的合成語(yǔ)音”，能“最大程度上保持原聲的情感、風(fēng)格和自然度”。
隨著(zhù)技術(shù)的發(fā)展，復制聲音、替換人臉只會(huì )越來(lái)越簡(jiǎn)單和自然。這也意味著(zhù)，用戶(hù)受到的風(fēng)險也越來(lái)越大。
更何況，詐騙只是AI安全的一個(gè)方面。AI的對抗攻防，會(huì )成為未來(lái)相當長(cháng)一段時(shí)間內都需要考慮的問(wèn)題。
一是在A(yíng)I的諸多應用領(lǐng)域中，比如計算機視覺(jué)。攻擊者在圖像上施加細微、人眼難以察覺(jué)的干擾，能輕易誤導AI系統作出錯誤的識別。瑞萊智慧曾設計了一個(gè)特殊的眼鏡，只要你戴上眼鏡，就能被人臉識別系統識別為內部人員，放你通行。如果在此基礎上，再用AI生成張嘴、眨眼等特定動(dòng)作，就有可能騙過(guò)生物識別系統。
AI攻防 | 圖片來(lái)源：瑞萊智慧
二是大模型本身的安全，用戶(hù)可以在指令中“給大模型安排一個(gè)假身份”等簡(jiǎn)單的誘導，就能繞過(guò)部分現有大模型的安全機制，“騙”出有風(fēng)險的回答內容。
此外，大模型本身具備極強的內容生成能力。若不加以控制，AIGC內容將會(huì )在不遠的未來(lái)充斥互聯(lián)網(wǎng)，成為一種“信息污染”。介時(shí)，“純手工”的內容或許也會(huì )如今天的奢侈品一般，成為稀缺且昂貴的資源。
總之，內在和外在的安全，已經(jīng)是AI行業(yè)繞不開(kāi)的話(huà)題。與AI相比，人類(lèi)的能力過(guò)于渺小和低效，可為了掌握AI、應用AI，我們又不得不直面AI、對抗AI。
誰(shuí)在和AI“抗衡”？
要明確的一點(diǎn)是，雖然在反AI詐騙上，AI安全和網(wǎng)絡(luò )安全存在一些重合，但AI安全還包括AI本身的安全，與網(wǎng)絡(luò )安全是兩個(gè)不同的領(lǐng)域。
最早意識到并從事AI安全領(lǐng)域的公司，其實(shí)是OpenAI。早在2015，OpenAI作為非營(yíng)利組織成立的時(shí)候，其核心宗旨便是“創(chuàng )建造福全人類(lèi)的安全通用人工智能（AGI）”，以預防人工智能的災難性影響，推動(dòng)人工智能發(fā)揮積極作用。
雖然后來(lái)OpenAI業(yè)務(wù)轉向，但算是給AI安全行業(yè)開(kāi)了一個(gè)頭。因此在2021年，OpenAI的研究副總裁達里奧·阿莫迪（Dario Amodei）和安全政策副總裁丹妮拉·阿莫迪（Daniela Amodei），及一批從OpenAI離職的成員，共同成立了專(zhuān)注于人工智能安全和負責任開(kāi)發(fā)的Anthropic。據The Information的報道，Anthropic2023年的收入預計為2億美元，到2024年底，這個(gè)數字將超過(guò)8.5億美元。
今年6月20日，OpenAI吉印通創(chuàng )始人、前首席科學(xué)家伊利亞（Ilya Sutskever）也宣布將創(chuàng )辦一家“安全超級智能公司”。
除了OpenAI系的公司，微軟、谷歌、Meta等公司也在積極布局AI安全領(lǐng)域。不難看出，隨著(zhù)AI的發(fā)展，AI安全的市場(chǎng)容量和增長(cháng)速度還是相當可觀(guān)的。
國內方面，成立于2018年的瑞萊智慧是一家致力于安全、可信、可靠、可擴展的第三代人工智能技術(shù)的公。目前，瑞萊智慧已打造“AI監管與支持平臺”與“AIGC檢測平臺”兩大產(chǎn)品基座，分別對應人工智能內生與衍生安全風(fēng)險，并陸續推出了人工智能安全平臺RealSafe、人臉AI安全防火墻RealGuard、可信垂類(lèi)大模型等產(chǎn)品，在政務(wù)、金融等領(lǐng)域實(shí)現快速產(chǎn)品化和商業(yè)化落地，已服務(wù)多個(gè)國家部委、央國企、民營(yíng)企業(yè)客戶(hù)。
360、亞信安全等國內公司也曾宣布布局AI安全領(lǐng)域。
隨著(zhù)越來(lái)越多的國內外公司都開(kāi)始布局AI安全領(lǐng)域，這對于每一個(gè)身處AI時(shí)代的人來(lái)說(shuō)，都是一個(gè)好消息。畢竟未來(lái)AI的攻防會(huì )越發(fā)激烈，而同行的人越多，消費者的安全就多一份保障。
但關(guān)鍵在于，人類(lèi)要如何“打敗”AI？
用AI的手段，“打敗”AI
AI戰勝人類(lèi)的例子數不勝數，但人類(lèi)打敗AI似乎沒(méi)那么容易。
在圍棋領(lǐng)域，2016年AlphaGo擊敗世界冠軍李世石的案例，總被人拿出來(lái)佐證AI的強大。實(shí)際上，恰恰就是在這個(gè)領(lǐng)域，人類(lèi)已經(jīng)完成了對AI的反攻。
2023年，美國圍棋選手凱林·佩里恩（Kellin Pelrine）以14:0的全勝成績(jì)，擊敗了與AlphaGo同一級別的頂級AI圍棋機器人Leela Zero。佩里恩只是一名業(yè)務(wù)選手，之所以能完美戰勝AI，就是“用AI打敗了AI”——其背后的公司FAR AI在一百多萬(wàn)次的AI圍棋對決中，找到了AI的盲點(diǎn)：分不清“聲東擊西”。
這其實(shí)就是人類(lèi)目前用以對抗AI的思路之一。
在A(yíng)I安全領(lǐng)域，瑞萊智慧便在用類(lèi)似的方式對抗DeepFake。公司基于貝葉斯深度學(xué)習技術(shù)構建了一整套多模態(tài)AIGC檢測技術(shù)體系，能夠挖掘并建模多模態(tài)、多層次、多角度的AI合成線(xiàn)索，度量真假差異，并進(jìn)行不確定性的推理和決策。
簡(jiǎn)單來(lái)說(shuō)，用“AI鑒別AI”的過(guò)程可以分為兩個(gè)環(huán)節：提取偽造特征和線(xiàn)索建模。
第一步是提取偽造特征，這些特征可以分為人臉先驗、視覺(jué)偽影、數字圖像信號、視聽(tīng)一致性四個(gè)類(lèi)別，這是識別內容是否是AIGC的線(xiàn)索。
舉個(gè)例子，人都是要眨眼的，而早期科學(xué)家發(fā)現一些AI合成的人臉視頻，可能一分鐘都不眨一次眼，這顯然不符合正常生理表現，于是便能判定視頻為假。這是人臉先驗中一個(gè)最有名、最基礎的線(xiàn)索。
當然現在A(yíng)IGC已經(jīng)進(jìn)化到無(wú)法通過(guò)眨眼這類(lèi)常識性錯誤判斷視頻真假了，那就需要更復雜的幾何結構特征，比如瞳孔的形狀是否規則、左右眼角膜的高光是否一致等。
AI攻防 | 圖片來(lái)源：瑞萊智慧
視覺(jué)偽影指的其實(shí)是AIGC的一些“瑕疵”，這類(lèi)瑕疵在早些年技術(shù)不成熟的時(shí)候比較明顯。如果你使用過(guò)2019年爆火的一款換臉軟件ZAO，就知道當時(shí)人臉拼合得比較生硬，拼接處經(jīng)常有異常的“閃爍”，這就是典型的偽造特征。即便如今技術(shù)更加成熟，人眼已經(jīng)幾乎看不出這些瑕疵了，但AI卻可以。AI會(huì )從底層的二進(jìn)制信號的層面，用統計學(xué)的角度去看這些信號是否合理。
在完成提取特征的工作后，第二步就是進(jìn)行建模，用機器學(xué)習和深度學(xué)習的方式，讓AI自己學(xué)習鑒偽的規律。
但常規的模型有一個(gè)缺點(diǎn)，就是在遇到它不懂的知識時(shí)，它會(huì )“很有信心”地胡說(shuō)八道，誤導我們。在鑒偽上也一樣，可能在鑒別常規偽造手段的時(shí)候已經(jīng)很成熟了，可一旦業(yè)界換了一個(gè)偽造手法，AI就可能會(huì )誤判，最后在落地的場(chǎng)景上帶來(lái)風(fēng)險。
這更依賴(lài)模型的可靠性。瑞萊智慧CEO田天表示，瑞萊智慧孵化自清華人工智能研究院張鈸院士的團隊，所以在記憶學(xué)習領(lǐng)域有比較深的積累，得以在數據不確定性方面有了一些比較獨特的建模，這得以降低誤判的可能性。此外，通過(guò)將統計學(xué)與神經(jīng)網(wǎng)絡(luò )技術(shù)進(jìn)行結合的手段，也能讓模型在處理不確定性時(shí)有較高的準確度。
盡管如此，AI安全也將如同曾經(jīng)的殺毒軟件一般，在道高一尺、魔高一丈的網(wǎng)絡(luò )安全對抗中，不斷地完成自我進(jìn)化，才能為更多客戶(hù)和用戶(hù)保駕護航。
技術(shù)的發(fā)展大多不是一帆風(fēng)順的， AI的發(fā)展也注定是一條螺旋而上升的曲線(xiàn)。而提前關(guān)注到AI安全的這批人，將會(huì )讓這條曲線(xiàn)升得更快、走得更遠。
