頂級圍棋AI被發(fā)現漏洞：“超人類(lèi)人工智能”還有很長(cháng)的路？
圍棋機器人通常被視為人工智能（AI）領(lǐng)域最成功的系統之一。然而，近期一項研究揭示了頂級圍棋機器人存在的缺陷。研究人員認為圍棋機器人的致命缺陷同樣存在于ChatGPT（聊天機器人）在內的大型語(yǔ)言模型中，這引發(fā)了人們對通用人工智能是否會(huì )遭受漏洞影響從而危及其安全性和可靠性的質(zhì)疑。
2022年11月19日，云南昆明，南亞博覽會(huì )，參展商在和弈棋機器人下圍棋。（吉印通社/圖）
編譯丨李永博
“超人類(lèi)人工智能”（superhuman AI）是最近人工智能領(lǐng)域比較熱門(mén)的話(huà)題。根據OpenAI首席科學(xué)家伊爾亞·蘇茨克維（Ilya Sutskever）的說(shuō)法，“超人類(lèi)人工智能”指的是那些在某些領(lǐng)域上能夠表現得比人類(lèi)更優(yōu)秀的AI系統。然而最近的一項研究對“超人類(lèi)人工智能”的前景提出了質(zhì)疑。
根據《自然》雜志報道，近期發(fā)布的一項研究以KataGo2（被認為是目前最成功的開(kāi)源圍棋人工智能系統）為例，指出人工智能系統并非總是可以在圍棋領(lǐng)域輕易地擊敗人類(lèi)。
這項研究作為預印本于今年6月在線(xiàn)發(fā)布，還未經(jīng)過(guò)同行評審。研究人員使用了“對抗性攻擊”來(lái)發(fā)現圍棋AI系統的漏洞，這是一種向AI系統輸入設計好的數據，誘使系統犯錯的策略。例如，某些提示可以讓聊天機器人“越獄”，使其提供出它們被訓練禁止表達的有害信息。
科幻紀錄片《我們需要談?wù)凙I》（AI We Need To Talk About A.I. ，2020）畫(huà)面。
在圍棋中，研究人員通過(guò)訓練對抗性AI機器人擊敗KataGo，這是目前最好的開(kāi)源圍棋AI系統。研究人員表示，這些對抗性機器人找到了能夠經(jīng)常擊敗KataGo的漏洞，盡管它們在其他方面表現并不好。此外，人類(lèi)可以理解這些機器人的技巧并采用它們來(lái)?yè)魯ataGo。
KataGo的漏洞是一次偶然現象，還是指向了所有“超人類(lèi)人工智能”的根本弱點(diǎn)？為了調查這一點(diǎn)，研究人員使用對抗性機器人測試了圍棋AI三種應對防御策略。結果顯示，面對三種不同的防御策略，對抗性機器人最終還是找到了圍棋AI的弱點(diǎn)，勝率可以達到80%-90%。
在所有這些情況下，對抗性機器人雖然能夠擊敗KataGo和其他頂級圍棋系統，但它們被訓練的目的是發(fā)現其他AI的隱藏漏洞，而不是成為全面的戰略家。“這些對手仍然相當弱，人類(lèi)自己也能輕松擊敗它們，”研究人員說(shuō)道。
這項研究結果不僅局限于圍棋AI，也可能對包括ChatGPT在內的大型語(yǔ)言模型的AI系統產(chǎn)生廣泛影響。“關(guān)鍵的結論是漏洞難以消除，如果我們不能在像圍棋這樣簡(jiǎn)單的領(lǐng)域中解決這個(gè)問(wèn)題，那么在短期內，似乎不太可能修復類(lèi)似于ChatGPT中的越獄問(wèn)題。”
多位專(zhuān)家指出，這篇論文提供了迄今為止最有力的證據，表明讓高級AI模型穩定地表現出預期行為是很難的，這說(shuō)明想要構建一個(gè)可以信任的、強大的現實(shí)世界的AI系統還有很長(cháng)的路，“最重要的結論是我們今天構建的AI系統，人類(lèi)自己并不完全理解。”
參考資料：
(1)Can AI be superhuman? Flaws in top gaming bot cast doubt
021yin.com/articles/d41586-024-02218-7
(2)OpenAI Co-Founder, Who Helped Oust Sam Altman, Starts His Own Company
021yin.com/2024/06/19/technology/ilya-sutskever-openai-safe-superintelligence.html
本文為編譯內容。編譯：李永博；編輯：西西；校對：柳寶慶。歡迎轉發(fā)至朋友圈。文末含《新京報·書(shū)評周刊》2023合訂本廣告。
點(diǎn)擊“閱讀原文”
即刻購買(mǎi)《新京報·書(shū)評周刊》2023合訂本～
