【科學(xué)的溫度】AI換臉火爆的背后：若何避免人工智能手藝被“惡用”？

中新網(wǎng)12月22日電 (記者 李金磊)數字化*.0時(shí)代，人類(lèi)生活越來(lái)越離不開(kāi)人工智能。若何避免人工智能手藝被“惡用”？越來(lái)越多的虛擬人能否會(huì )代替部門(mén)實(shí)人職業(yè)？若何克制算法蔑視，讓人工智能實(shí)現可知、可信、可控、可用？

圍繞上述熱點(diǎn)問(wèn)題，清華大學(xué)人工智能?chē)H治理研究院副院長(cháng)、人工智能治理研究中心主任梁正承受了中新網(wǎng)專(zhuān)訪(fǎng)，停止解讀。

清華大學(xué)人工智能?chē)H治理研究院副院長(cháng)、人工智能治理研究中心主任梁正。受訪(fǎng)者供圖

避免人工智能手藝被“惡用”

AI換臉、AI換聲、三維重建、智能對話(huà)……深度合成手藝應用日益普遍，催生了美顏美妝、影視造做、智能客服、虛擬主播、元宇宙等應用辦事，但也存在著(zhù)被歹意操縱的現象，一些犯警人員用來(lái)造做、復造、發(fā)布、傳布違法和不良信息，誹謗、貶損別人名望、榮譽(yù)，仿冒別人身份施行詐騙等。

如何抵御那些可能的“惡用”？梁正暗示，關(guān)于深度合成，AI換臉是一個(gè)典型的應用。比來(lái)三部分出臺了《互聯(lián)網(wǎng)信息辦事深度合成辦理規定》，關(guān)于標準深度合成辦事提出了明白要求。

按照規定，供給人臉、人聲等生物識別信息顯著(zhù)編纂功用的，應當提醒利用者依法告知被編纂的小我，并獲得其零丁同意。供給智能對話(huà)、合成人聲、人臉生成、沉浸式擬實(shí)場(chǎng)景等具有生成或者顯著(zhù)改動(dòng)信息內容功用辦事的，應當在生成或者編纂的信息內容的合理位置、區域停止顯著(zhù)標識，向公家提醒信息內容的合成情況，制止公家混淆或者誤認。

梁正指出，利用小我肖像若是沒(méi)有征得同意，就去公共互聯(lián)網(wǎng)上收羅利用的話(huà)，那屬于違法行為。平臺上若是有類(lèi)似應用，平臺就有責任去監視。即便是合法的利用，也要打上標簽，讓各人曉得那不是實(shí)的，必然水平上能夠削減深度合成內容產(chǎn)生的認知誤差和社會(huì )誤導。若是平臺本身去供給那一類(lèi)辦事，還要求用響應的東西去識別它不是實(shí)在的，那就對平臺提出了更高的要求。

“不只要合法合規，并且還要合意?！?梁正暗示，要進(jìn)一步完美法令律例，嚴酷落實(shí)相關(guān)規定，成立健全賞罰軌制，小我要有維權意識，通過(guò)布施渠道維護本身合法權益，從而削減AI被歹意操縱的現象。

材料圖：2022世界人工智能大會(huì )上，人機互動(dòng)吸引不雅寡。 湯彥俊 攝

虛擬人已經(jīng)起頭代替部門(mén)實(shí)人職業(yè)

近年來(lái)，虛擬代言人、虛擬主播、虛擬演員歌手，越來(lái)越多虛擬人在被推向市場(chǎng)。人們擔憂(yōu)，虛擬人在將來(lái)或將代替部門(mén)實(shí)人職業(yè)。

“在娛樂(lè )、新聞范疇，虛擬人的應用越來(lái)越多，因為它是一個(gè)低成本、高效率的體例?！痹诹赫磥?lái)，虛擬人越來(lái)越多也是一種一定的趨向，并且已經(jīng)在替代部門(mén)實(shí)人職業(yè)了。好比，如今良多虛擬新聞主播，還有德律風(fēng)客服越來(lái)越多利用智能語(yǔ)音辦事?！澳莻€(gè)替代它必然是會(huì )部門(mén)發(fā)作的?！?/p>

重生事物開(kāi)展背后也存在一些隱患。梁正提醒，各人不要把實(shí)假弄混了，虛擬人的形象、內容、對話(huà)都是基于訓練的成果，或者是事先編好的，若是把它當成實(shí)人的話(huà)，就會(huì )產(chǎn)生誤導。

“好比說(shuō)，跟對話(huà)機器人去對話(huà)要十分小心。關(guān)于有些敏感話(huà)題，因為它背后沒(méi)有意識，是順著(zhù)你說(shuō)的，若是沒(méi)有干涉就可能產(chǎn)生誤導，但它沒(méi)有法子承擔責任。所以要對虛擬形象的深度合成打上標簽，并限制它的利用場(chǎng)景。出格是在教育醫療如許一些敏感的高風(fēng)險場(chǎng)景，人工干涉是必需的?！绷赫f(shuō)。

梁正認為，虛擬人的應用總體要分場(chǎng)景，在游戲、氣候預報、新聞播報等一些低風(fēng)險場(chǎng)景問(wèn)題不大，但若是是高風(fēng)險場(chǎng)景，就要十分小心，虛擬形象可以做什么，什么不克不及做，要把邊界劃清晰，好比心理陪同機器人，要評估它說(shuō)的話(huà)帶來(lái)的持久心理影響是什么樣的。

下一代人工智能應該是可解釋的

人工智能不分開(kāi)算法，算法公允和算法蔑視話(huà)題也備受存眷。國外一些研究和媒體報導提到，算法開(kāi)發(fā)者或算法自己按照大數據積累存在種族、性別、文化等蔑視的可能性。

對此，梁正暗示，算法是根據數據訓練出來(lái)的，數據的有偏性是招致算法自己有偏性的一個(gè)次要原因。所以，算法蔑視不是算法形成的，是社會(huì )自己形成的，是算法自己的手藝特點(diǎn)所招致的，利用大量已經(jīng)帶有傾向性的數據，算法也就會(huì )做出一種傾向性的判斷。

梁正指出，要想改動(dòng)那種成見(jiàn)，起首要糾正社會(huì )成見(jiàn)。所以在利用數據的時(shí)候，要停止人工干涉，在統計學(xué)上能夠通過(guò)一些模仿數據來(lái)做一個(gè)平衡，但底子上是要付與人工智能以常識，要把一些因果的因素考慮進(jìn)去，而不是單純只依賴(lài)于那種數據。

“絕對的算法公允其實(shí)不存在?！?梁正認為，算法公允具有多維性，常常面對“不成能三角”式的挑戰。在公共辦理范疇中，起點(diǎn)公允、過(guò)程公允、成果公允三者同時(shí)實(shí)現根本是不成能的。絕對的公允現實(shí)上在算法的設想中其實(shí)也是做不到的，關(guān)鍵取決于你要什么樣的目的。

梁正暗示，要實(shí)現人工智能可知、可信、可控、可用?？芍簿褪强山忉?zhuān)鞘亲罡滓彩亲顝碗s的層面，下一代人工智能應該是可解釋的，若是說(shuō)它不克不及夠被解釋的話(huà)，就會(huì )限造它良多方面的應用和各人對它的信賴(lài)。算法可解釋?zhuān)欠N前提下才氣夠安心去利用它。

“如今更大的問(wèn)題就是黑箱，現有的人工智能是基于數據訓練出來(lái)，你不曉得中間發(fā)作的事，而新一代的人工智能就是要在數據的根底加上常識，以至要加上我們的邏輯，讓它可以根據我們可理解的體例運行?！绷赫f(shuō)。(完)