雷軍“出口成臟”？AI語(yǔ)音應用要有邊界
剛過(guò)去的國慶假期，短視頻平臺充斥著(zhù)大量“雷軍”罵人視頻，把這位科技大佬塑造成“出口成臟”的形象。面對網(wǎng)友惡搞，雷軍本人以三個(gè)憤怒的表情予以回應。目前，這類(lèi)罵人配音視頻已基本從短視頻平臺消失。
雷軍攤上事了，但雷軍也很委屈，因為此類(lèi)視頻中的聲音并非出自雷軍本人，而是AI配音。
AI可換臉，AI也可模仿他人的聲音。有專(zhuān)業(yè)技術(shù)人員表示，當前AI語(yǔ)音技術(shù)已達到人耳甚至傳統鑒定方案難以區分的程度，包括各種情緒、口音、發(fā)音習慣、方言等都可以高度還原，并且能夠高細粒度地理解文本，最后生成最匹配的聲音。
技術(shù)進(jìn)步了，參與者也越來(lái)越多。據統計，在某社交平臺上，用AI配音模仿雷軍幾乎已經(jīng)形成風(fēng)潮，相關(guān)話(huà)題瀏覽量動(dòng)輒過(guò)億。
AI配音技術(shù)為什么會(huì )在網(wǎng)絡(luò )上迅速走紅？
一方面，這符合網(wǎng)民個(gè)性化與創(chuàng )意表達的需要，而且與傳統配音工作耗時(shí)費力相比，AI配音能在短時(shí)間內完成大量文本轉換成語(yǔ)音的任務(wù)，其制作成本低廉。
另一方面，模仿名人或創(chuàng )造幽默場(chǎng)景的AI配音作品，易于引起共鳴，激發(fā)用戶(hù)的分享欲望，從而促進(jìn)內容的廣泛傳播。
但是這一技術(shù)也可能被不當使用，帶來(lái)諸多隱患。
9月26日晚，合肥警方通報稱(chēng)，9月20日接到三只羊公司報警，稱(chēng)網(wǎng)上傳播的涉盧某某音視頻不實(shí)，嚴重侵害其合法權益。經(jīng)過(guò)偵查，9月22日晚將犯罪嫌疑人王某某抓獲，并在其電腦、手機和制作AI音頻的網(wǎng)站中發(fā)現偽造相關(guān)音視頻的證據。經(jīng)鑒定，認定網(wǎng)傳音視頻系偽造。
一段用AI偽造的錄音讓正陷入虛假宣傳風(fēng)波的“三只羊”公司雪上加霜，現在，模仿雷軍的AI配音逼出了雷軍本人的憤怒表情并引來(lái)眾多網(wǎng)民圍觀(guān)，證明AI配音引發(fā)的問(wèn)題正在擴大化。
根據我國民法典對自然人聲音的保護參照適用肖像權保護的有關(guān)規定，這意味著(zhù)，聲音作為個(gè)人特征的一部分，與肖像一樣受到法律的明確保護。這也意味著(zhù)在未獲得授權的情況下用他人聲音進(jìn)行配音創(chuàng )作是一種名譽(yù)侵權行為。
如果更進(jìn)一步，用他人聲音進(jìn)行配音創(chuàng )作的內容具有捏造事實(shí)誹謗他人的性質(zhì)，且情節嚴重，則有可能達到刑事立案標準，這也是上述案件中的王某某最后被警方刑拘的原因。
因此，對網(wǎng)民來(lái)說(shuō)，玩梗并非完全不可行，AI也可能是你的好幫手，但是其中的法律風(fēng)險卻不能不察。
提醒網(wǎng)民，更要追問(wèn)提供AI技術(shù)公司的責任。
媒體報道，三只羊“錄音門(mén)”偽造音頻事件和這次雷軍被惡搞事件，牽涉到了同一家公司。
在三只羊“錄音門(mén)”偽造音視頻事件發(fā)生之后，該公司曾發(fā)表聲明表示，公司高度重視，已啟動(dòng)內部審核機制，將進(jìn)一步加強產(chǎn)品的安全管控措施，確保技術(shù)的合法合規應用。
現在看來(lái)，該公司“加強產(chǎn)品的安全管控措施”的動(dòng)作顯然未見(jiàn)效果。
需要認識到，隨著(zhù)深度學(xué)習和人工智能算法的不斷優(yōu)化，偽造音頻和視頻變得越來(lái)越逼真，以至于普通人難以分辨真偽。這大大提升了信息欺騙的成功率，增加了個(gè)人信息和數據的安全風(fēng)險。
抵御這種風(fēng)險，只有依靠包括企業(yè)、平臺、公眾、監管者聯(lián)動(dòng)的綜合治理。
AI技術(shù)的應用邊界在哪里？何時(shí)何地何種程度的模仿被認為是合理的創(chuàng )作表達，又在何時(shí)會(huì )越過(guò)界限變成侵權行為？這一切也許還難以在倉促之間形成統一的答案，但眼下AI技術(shù)進(jìn)步越來(lái)越快的事實(shí)在警示，跟隨技術(shù)的發(fā)展，社會(huì )需要建立更加完善的倫理準則和法律框架，以指導AI技術(shù)的合理合法使用。
