有圖不一定有真相！警惕“野蠻生長(cháng)”的AI謠言

“濟南一高層住宅樓起火，多人跳樓逃生”“濟南一農貿市場(chǎng)西紅柿爛街頭”“晨練大爺在濟南英雄山附近發(fā)現墳中活人”……這些離譜的“重磅消息”曾在網(wǎng)上廣泛傳播，引起大量網(wǎng)友關(guān)注。濟南市委網(wǎng)信辦第一時(shí)間通過(guò)濟南互聯(lián)網(wǎng)吉印通辟謠平臺進(jìn)行了辟謠，但還是有不少人被它們“有圖有真相”的表象迷惑，于是在錯誤的時(shí)間、錯誤的地點(diǎn)，相信了錯誤的它。據秦小瓊所知，這些煞有介事的謠言其實(shí)是通過(guò)AI（人工智能）制作出來(lái)的。

AI謠言之所以能“野蠻生長(cháng)”，原因在于其門(mén)檻和成本低，只需簡(jiǎn)單輸入關(guān)鍵詞，AI軟件便能自動(dòng)抓取素材，生成看似權威且極具欺騙性的內容。前段時(shí)間，“造謠公司用AI一天寫(xiě)謠言7000篇”的新聞火了，據警方調查，這家MCN機構通過(guò)具有語(yǔ)音交互功能的AI軟件生成虛假文章，再上傳到多個(gè)網(wǎng)絡(luò )平臺，最高峰一天能生成4000至7000篇。其炮制的謠言，模仿新聞風(fēng)格，包含了時(shí)間、地點(diǎn)等關(guān)鍵信息，還配發(fā)了所謂的現場(chǎng)圖片，極具迷惑性。在這個(gè)流量為王的時(shí)代，很多不法分子為了賺取流量，不惜濫用技術(shù)，批量生產(chǎn)謠言。這種AI謠言利用公眾對圖片、視頻、音頻的天然信任，實(shí)現了快速傳播。

AI是社會(huì )發(fā)展進(jìn)程中繞不開(kāi)的內容，它正從方方面面影響我們的生活，與此同時(shí)，AI作為一種新技術(shù)所帶來(lái)的不確定性，也給網(wǎng)絡(luò )辟謠工作帶來(lái)了一定挑戰。我們應當保持警惕，及時(shí)遏制AI謠言的誕生與傳播。

面對AI謠言這個(gè)看不見(jiàn)的敵人，濟南市委網(wǎng)信辦展現出了積極的應對智慧。我們積極運用AI技術(shù)來(lái)對付AI謠言，通過(guò)建立輿情監測平臺，使用大數據算法，實(shí)現對AI生成類(lèi)謠言的有效監控和識別。

其實(shí)，秦小瓊覺(jué)得，面對來(lái)勢洶洶的AI謠言，還需多方協(xié)同努力，源頭方面要加大懲處力度，有力震懾心懷不軌的謠言生產(chǎn)者；平臺方面要加強自媒體賬號監管，注意內容審核；個(gè)人方面要加強“質(zhì)疑”意識，提升甄別信息真偽的能力，不輕信不輕轉，并且積極舉報，共同筑起防范AI謠言傳播的銅墻鐵壁。

來(lái)源：濟南互聯(lián)網(wǎng)吉印通辟謠平臺