韓國“AI換臉”色情犯罪入刑 擁有或觀(guān)看圖片和視頻被定為犯罪
羊城晚報周末特約主筆 謝不明
10月8日，2024年諾貝爾物理學(xué)獎頒發(fā)給兩位人工智能專(zhuān)家，以表彰他們使用物理學(xué)工具為強大的機器學(xué)習方法奠定基礎。其中一位獲獎?wù)甙l(fā)明了聯(lián)想記憶，可以存儲和重構圖像，AI圖像識別等技術(shù)就是在此基礎上發(fā)展而來(lái)。有趣的是，就在諾獎頒發(fā)前夕，韓國國會(huì )剛通過(guò)一項法案，把“擁有或觀(guān)看AI換臉的色情圖片和視頻”這一行為定為犯罪，刑罰包括罰款和監禁等。
韓國AI換臉色情犯罪事件從今年5月開(kāi)始發(fā)酵。當時(shí)，韓國媒體曝光，兩個(gè)首爾大學(xué)的學(xué)生利用AI技術(shù)Deepfake，換臉合成了色情相片和視頻，并通過(guò)通信軟件進(jìn)行傳播，受害女性達到61人。8月底，韓國婦女人權研究所公布了一組數據，今年以來(lái)共有781名AI換臉受害者在線(xiàn)求助，其中36.9%是未成年人。另一家韓國媒體進(jìn)一步報道，一個(gè)與AI換臉相關(guān)的網(wǎng)絡(luò )聊天室竟然吸引了22萬(wàn)人，受害者包括大量學(xué)生和未成年人，受到影響的學(xué)校超過(guò)200所。
據美國安全服務(wù)機構發(fā)布的《2023深度偽造技術(shù)現狀》統計，在深度偽造技術(shù)受害人物中，53%是韓國人，超過(guò)了美國（20%）、日本（10%）和英國（6%）加起來(lái)的總和。韓國政府已經(jīng)做了一些補救措施，從2005年開(kāi)始修訂了約300項改善歧視女性的法律法規，此次換臉事件發(fā)酵后也承諾投入20億韓元來(lái)開(kāi)發(fā)識別、抑制換臉技術(shù)的系統，并通過(guò)了定性犯罪的法案。但是在實(shí)操層面，卻很難發(fā)揮真正的威懾力。
為什么韓國會(huì )成為換臉色情犯罪的重災區？一是因為參與人數眾多，難免出現法不責眾的情況。像上文提到，一個(gè)網(wǎng)絡(luò )聊天室就有22萬(wàn)人訂閱，韓國每年的新生人口也不過(guò)23萬(wàn)人。在警力有限的情況下，很難將所有犯罪者都繩之以法；二是“未成年”成為犯罪者的擋箭牌。據稱(chēng)，韓國幾乎每所學(xué)校都有一個(gè)隱秘的網(wǎng)絡(luò )聊天室，用于傳播AI換臉色情內容。上文提到，受害者有很大一部分是未成年人，可加害者中也有不少未成年人。他們的父母也“護犢情深”，主張這種行為只要批評教育就行了，完全沒(méi)必要上升到刑罰的程度。
其實(shí)，問(wèn)題的根源就在于，韓國社會(huì )普遍存在性別歧視。韓國國內調查顯示，有58.6%的年輕男性明確表示反對女權主義，其中25.9%是“極端強烈”反對。有一種說(shuō)法筆者很贊同，“性暴力實(shí)質(zhì)上反映的是一種想要侮辱和控制女性的心態(tài)”。韓國女性在“AI換臉”事件中無(wú)助到什么程度呢？她們已經(jīng)不相信自己的政府和媒體，只能借助翻譯器在其他國家的網(wǎng)絡(luò )上發(fā)布求助帖，甚至聲稱(chēng)“韓國女性沒(méi)有國家”。
另一個(gè)值得反思的問(wèn)題是，前沿技術(shù)再度成為人性本惡的“放大鏡”。“AI換臉”的技術(shù)起源是Deepfake，也稱(chēng)為“深度偽造”，是以色列一家公司開(kāi)發(fā)的。通過(guò)這項技術(shù)，只要投入海量的學(xué)習素材，合成的相片和視頻的真實(shí)性便會(huì )越來(lái)越高。在深度學(xué)習神經(jīng)網(wǎng)絡(luò )的基礎上，Deepfake技術(shù)不停更新迭代，最終演變出門(mén)檻極低、連小學(xué)生都可以操作的“AI換臉”技術(shù)，并被濫用于色情內容。然而，美國人霍普菲爾德正是因為“利用人工神經(jīng)網(wǎng)絡(luò )進(jìn)行機器學(xué)習做出的基礎性發(fā)現和發(fā)明”獲得今年的諾貝爾物理學(xué)獎。
每一次科學(xué)技術(shù)的進(jìn)步，都會(huì )伴隨著(zhù)善與不善、法與非法的爭議。針對Deepfake技術(shù)的“野蠻生長(cháng)”，谷歌、微軟、Meta等巨頭都相繼行動(dòng)，提高識別探測的能力，切斷惡意換臉內容的傳播渠道。我們不能因噎廢食阻止科技發(fā)展，只能從技術(shù)、法律的角度，盡可能把前沿科技往“善”的方向引導，向“不善”的傾向亮劍。
