AI重磅！“它太危險了，不能公開(kāi)發(fā)布”

據參考消息13日援引美國趣味科學(xué)網(wǎng)站7月10日報道，科學(xué)家稱(chēng)，微軟公司開(kāi)發(fā)的新型人工智能(AI)語(yǔ)音生成器“達到了與人類(lèi)相當的水平……但它太危險了，不能公開(kāi)發(fā)布”。

報道稱(chēng)，VALL-E 2是一個(gè)文本轉語(yǔ)音(TTS)生成器，只需利用幾秒鐘的音頻就能重現說(shuō)話(huà)人的聲音。其效果非常逼真，以至于無(wú)法向公眾發(fā)布。

微軟研究人員在6月17日發(fā)表在預印本文獻庫上的一篇論文中稱(chēng)，VALL-E 2能夠“準確、自然地生成與原說(shuō)話(huà)人完全相同的語(yǔ)音，其生成的語(yǔ)音可與人類(lèi)相媲美”。換句話(huà)說(shuō)，這一新的AI語(yǔ)音生成器足夠逼真，會(huì )讓人誤以為這是真人在說(shuō)話(huà)——至少它的創(chuàng )造者是這么認為。

圖片來(lái)源：視覺(jué)中國

微軟研究人員在論文中寫(xiě)道：“VALL-E 2代表著(zhù)神經(jīng)編解碼語(yǔ)言模型的最新進(jìn)展，它標志著(zhù)零樣本文本轉語(yǔ)音合成的一個(gè)里程碑，并首次達到與人類(lèi)語(yǔ)音相當的水平。”

論文還說(shuō)：“此外，VALL-E 2能夠始終如一地合成高質(zhì)量語(yǔ)音，即使是那些傳統上因其復雜性或重復短語(yǔ)而具有挑戰性的句子也不例外。”

研究人員使用語(yǔ)音資料庫LibriSpeech和VCTK中的音頻樣本來(lái)評估VALL-E 2與說(shuō)話(huà)人錄音的相似程度。他們還使用了ELLA-V(一個(gè)用于衡量生成語(yǔ)音的準確性和質(zhì)量的評估框架)來(lái)確定VALL-E 2能在多大程度上有效處理更復雜的語(yǔ)音生成任務(wù)。

研究人員寫(xiě)道：“我們基于LibriSpeech和VCTK數據集進(jìn)行的實(shí)驗表明，VALL-E 2在語(yǔ)音的穩健性、自然度、與說(shuō)話(huà)人相似度方面都超越了之前的零樣本TTS系統。它是同類(lèi)產(chǎn)品中第一個(gè)在這些基準上達到與人類(lèi)相當水平的系統。”

微軟研究人員在一篇博客文章中寫(xiě)道：“VALL-E 2純粹是一個(gè)研究項目。目前，我們還沒(méi)有將VALL-E 2納入產(chǎn)品或向公眾開(kāi)放的計劃。在模型被濫用方面，它可能存在潛在的風(fēng)險，比如欺騙語(yǔ)音識別系統或冒充特定的說(shuō)話(huà)人。”

盡管如此，他們確實(shí)表示，AI語(yǔ)音技術(shù)在未來(lái)可能會(huì )有實(shí)際應用。研究人員稱(chēng)：“VALL-E 2可以合成維持說(shuō)話(huà)人身份的語(yǔ)音，它可被用于教育學(xué)習、娛樂(lè )、新聞工作、自創(chuàng )內容、無(wú)障礙功能、交互式語(yǔ)音應答系統、翻譯、聊天機器人等領(lǐng)域。”

另?yè)_(kāi)報道，6月19日，在2024年戛納獅子國際創(chuàng )意節上，特斯拉首席執行官埃隆·馬斯克（Elon Musk）接受了全球知名營(yíng)銷(xiāo)服務(wù)公司W(wǎng)PP首席執行官馬克·里德（Mark Read）專(zhuān)訪(fǎng)。在談到“人工智能是否真的會(huì )為我們處理所有事務(wù)”時(shí)，馬斯克表示：我們不能盲目樂(lè )觀(guān)或過(guò)度悲觀(guān)。我非常贊同杰夫·辛頓（Jeff Hinton，人工智能教父）的觀(guān)點(diǎn)。他認為有10%到20%的可能性會(huì )出現一些令人擔憂(yōu)的情境。然而，我們更應關(guān)注那80%的積極可能性。

因此，我認為最有可能的未來(lái)是，我們將進(jìn)入一個(gè)物質(zhì)極度豐富的時(shí)代，商品和服務(wù)將普及到地球上的每一個(gè)人。這不僅僅意味著(zhù)全民基本收入，而是全民都能享受高收入。工作將變得可選，人們將擁有選擇是否工作的自由。

這樣的前景雖然誘人，卻也可能引發(fā)一場(chǎng)有關(guān)生命意義的危機。當人工智能能夠勝任我們所能做的所有工作，甚至做得更好時(shí)，我們做事的動(dòng)機和意義又何在呢？這可能會(huì )引發(fā)一種存在主義式的困惑，即我們?yōu)楹芜€要去做任何事情？

所以，我認為我們正邁向一個(gè)前所未有的繁榮時(shí)代。同時(shí)，我們也正處于歷史上最為有趣的時(shí)刻。有句諺語(yǔ)說(shuō)的好，“愿你生活在有趣的時(shí)代”，這看似是一種詛咒，但我認為我們正身處于這樣一個(gè)時(shí)代。我的意思是，即使面對人工智能可能帶來(lái)的最壞結果，即人類(lèi)被消滅，我也會(huì )選擇直面而非逃避。我想，我可能真的愿意親眼見(jiàn)證這一切的發(fā)展。

每日經(jīng)濟新聞綜合參考消息、公開(kāi)消息

每日經(jīng)濟新聞