周鴻祎道歉避重就輕？?jì)和悄苁直硎褂肁I大模型之憂(yōu)如何解
8月22日，360創(chuàng )始人、董事長(cháng)周鴻祎在其個(gè)人社交平臺就360兒童手表回復的不當言論道歉，“經(jīng)過(guò)快速檢查，出現問(wèn)題的這款手表是2022年5月份的一個(gè)舊版本，其中沒(méi)有裝入我們的大模型。它回答問(wèn)題不是通過(guò)人工智能，而是通過(guò)抓取互聯(lián)網(wǎng)公開(kāi)網(wǎng)站上的信息來(lái)回答問(wèn)題。目前我們已經(jīng)快速完成了整改，刪除了上述所有有害信息，并正在將軟件升級到人工智能版本。”
此次出現爭議的回答，涉及到開(kāi)放性?xún)r(jià)值觀(guān)的問(wèn)題。周鴻祎解釋稱(chēng)，目前人工智能存在一個(gè)全世界公認的難題，就是它會(huì )產(chǎn)生幻覺(jué)，這是大模型本身固有的特性。
而AI在價(jià)值觀(guān)問(wèn)題上的表現也一直有爭議。如何讓大模型的能力和行為跟人類(lèi)的價(jià)值、真實(shí)意圖和倫理原則相一致，確保人類(lèi)與人工智能協(xié)作過(guò)程中的安全與信任。這個(gè)問(wèn)題被稱(chēng)為“價(jià)值對齊”，價(jià)值對齊是AI安全的核心議題。
大模型就能避免答錯問(wèn)題嗎？
此前，根據網(wǎng)友發(fā)布的視頻，其女兒在一款360兒童電話(huà)手表的語(yǔ)音問(wèn)答功能提問(wèn)，智能回答出現不當言論。
周鴻祎解釋稱(chēng)，“我們在兒童手表里面，比較注重的是過(guò)濾黃色的（信息），但是對于這種開(kāi)放性的關(guān)于價(jià)值觀(guān)的問(wèn)題，可能注意得不夠。所以這幾天我們已經(jīng)在技術(shù)上在做快速的處理。”
周鴻祎還在視頻中對新版的360大模型兒童手表的問(wèn)答功能做了幾個(gè)測試，提問(wèn)了多個(gè)開(kāi)放性問(wèn)題，包括“是中國的月亮圓還是美國的月亮圓”“在巴黎奧運會(huì )上，女子乒乓球單打決賽中，孫穎莎和陳夢(mèng)誰(shuí)的球技更高”等。對于這些問(wèn)題，360大模型兒童手表都給出了相對客觀(guān)的回答。
周鴻祎表示，目前，人工智能存在一個(gè)全世界公認的難題就是它會(huì )產(chǎn)生幻覺(jué)，也就是它有的時(shí)候會(huì )胡說(shuō)八道，“這是大模型本身固有的特性。如何最大限度地減少幻覺(jué)？360一直在做努力，比如我們試圖通過(guò)與搜索的內容做對比來(lái)減少幻覺(jué)、做好知識對齊。但有時(shí)候搜索可能會(huì )抓取到內容不正確的網(wǎng)頁(yè)，就會(huì )導致內容的出錯。”
浙江大學(xué)計算機科學(xué)與技術(shù)學(xué)院副教授金小剛告訴南都記者，周鴻祎的回應是避重就輕，“他的產(chǎn)品里面究竟是哪一塊出了問(wèn)題，他應該認真去思考，而不是用技術(shù)上的概念去掩蓋。”
此外，金小剛認為周鴻祎的回應將人工智能狹義化了。周鴻祎在致歉中解釋出問(wèn)題的360兒童智能手表時(shí)提到“它回答問(wèn)題不是通過(guò)人工智能，而是通過(guò)抓取互聯(lián)網(wǎng)公開(kāi)網(wǎng)站上的信息來(lái)回答問(wèn)題”，金小剛表示，“用已有的數據進(jìn)行訓練，對未知的數據做預測，這本來(lái)就是人工智能的一種研究方向。他這個(gè)說(shuō)法就是把人工智能跟大模型做了切割，大模型才是人工智能，過(guò)去的不叫人工智能了？”
360兒童智能手表在升級到人工智能版本，裝入最新的大模型后，就能完全避免相關(guān)的價(jià)值觀(guān)問(wèn)題嗎？知名經(jīng)濟學(xué)者、工信部信息通信經(jīng)濟專(zhuān)家委員會(huì )委員盤(pán)和林告訴南都記者，“AI大模型，如果刻意訓練，這類(lèi)不合理回答會(huì )減少，但不會(huì )完全杜絕，是一個(gè)概率問(wèn)題。AI可以通過(guò)規范范例，通過(guò)答案打分反饋來(lái)降低不合理回答權重。”
金小剛也認為，即便使用了大模型，這類(lèi)問(wèn)題也會(huì )依然存在，“如果設計者就有偏向性，那大模型就會(huì )帶來(lái)這樣的（價(jià)值觀(guān)）問(wèn)題”。
AI價(jià)值觀(guān)能和人類(lèi)對齊嗎？
此次360手表在回答中的爭議涉及到價(jià)值觀(guān)問(wèn)題，而AI在價(jià)值觀(guān)問(wèn)題上的表現也一直有爭議。如何讓大模型的能力和行為跟人類(lèi)的價(jià)值、真實(shí)意圖和倫理原則相一致，確保人類(lèi)與人工智能協(xié)作過(guò)程中的安全與信任。這個(gè)問(wèn)題被稱(chēng)為“價(jià)值對齊”，價(jià)值對齊是AI安全的核心議題。
盤(pán)和林表示，“我認為要AI完全對齊價(jià)值觀(guān)不太可能，因為這個(gè)世界三觀(guān)是多元化的。人類(lèi)自己都無(wú)法對齊，很難要求AI去對齊。只能說(shuō)盡力引導AI做出得體的回應”。
金小剛也告訴南都記者，“AI的價(jià)值觀(guān)如果和你對齊了，和別人沒(méi)對齊，那也是一個(gè)問(wèn)題。這個(gè)過(guò)程中只能讓人類(lèi)向善，通過(guò)立法，對技術(shù)應用當中的不確定性的監控，讓產(chǎn)品能夠更好地服務(wù)社會(huì )。因為不管怎么講人工智能是一個(gè)技術(shù)，它是中性的。”金小剛表示，技術(shù)在應用中本就是不確定性的，所以要確保產(chǎn)品出現問(wèn)題后能夠迭代。
頭部人工智能企業(yè)也都在做價(jià)值對齊上的努力。去年7月，OpenAI宣布成立一個(gè)“超級對齊”團隊，這個(gè)團隊的目標是在4年內弄清如何讓超級智能的AI系統實(shí)現價(jià)值對齊和安全，OpenAI將投入20%的算力資源來(lái)支持這一工程。其核心是探索如何利用AI來(lái)幫助人類(lèi)解決AI的價(jià)值對齊問(wèn)題。
但就在不到一年之后，今年5月，OpenAI首席科學(xué)家Ilya Sutskever及“超級對齊”團隊負責人Jan Leike離職，理由是不認可OpenAI領(lǐng)導層的“核心優(yōu)先事項”，團隊在推動(dòng)其研究項目和爭取計算資源時(shí)遇到了重大阻礙，缺乏資源嚴重影響研究的進(jìn)度和質(zhì)量。他們共同領(lǐng)導的“超級對齊”團隊也被證實(shí)解散。
馬斯克針對這一事件評論：“這顯示安全并不是OpenAI的首要任務(wù)”。
兒童如何安全使用大模型？
值得注意的是，隨著(zhù)兒童手表市場(chǎng)規模擴大，內容安全正成為各方關(guān)切。根據IDC最新發(fā)布的《中國可穿戴設備市場(chǎng)季度跟蹤報告》顯示，在智能手表市場(chǎng)，2024年第一季度出貨量910萬(wàn)臺，同比增長(cháng)54.1%。其中成人智能手表505萬(wàn)臺，同比增長(cháng)62.8%；兒童智能手表出貨量404萬(wàn)臺，同比增長(cháng)44.4%。根據中國產(chǎn)業(yè)研究院發(fā)布的《2022-2027年中國兒童智能手表行業(yè)深度調研及投資前景預測研究報告》，目前中國5歲至12歲的兒童數量約為1.7億人，兒童智能手表的市場(chǎng)普及率約為30%，基本上3個(gè)孩子當中就有1個(gè)孩子有智能手表。
此次360兒童智能手表的爭議事件也讓人們開(kāi)始審視兒童應該如何使用人工智能大模型產(chǎn)品。
對此，盤(pán)和林告訴南都記者，大模型適合直接給兒童用，但需要向孩子解釋這是個(gè)什么。可以指導家長(cháng)引導方式，“AI不是洪水猛獸，兒童也不是溫室里面的花朵。”
金小剛則提出了相反的觀(guān)點(diǎn)，“我認為大模型在幼兒教育階段要謹慎使用。如果讓小孩因為有這樣一個(gè)工具，很容易獲取答案而放棄了思考，這就遠遠背離了教育的本質(zhì)。”
金小剛表示，如果使用者有判斷力，使用者的答案在大模型的答案之上，可以使用大模型進(jìn)行一定的輔助工作，“你的審美超過(guò)大模型，你可以讓大模型做一個(gè)草稿，你在上面再做。我希望大模型在教育里是用來(lái)提升判斷力和認知水平，而不是輕易給出答案的。”
“甚至是在我的實(shí)驗室里，如果學(xué)生連讀文獻、查文獻、做文獻綜述都不會(huì )，需要用大模型做，我認為這就不是教育。”金小剛表示。
目前，國內對于兒童智能手表還沒(méi)有統一的監管規范。去年12月，吉印通絡(luò )安全產(chǎn)業(yè)聯(lián)盟發(fā)布的《兒童智能手表個(gè)人信息和權益保護指南》（以下簡(jiǎn)稱(chēng)《指南》）向社會(huì )公開(kāi)征求意見(jiàn)。《指南》顯示，其重點(diǎn)主要集中在兒童個(gè)人信息安全、默認隱私保護、監護人控制等方面。
在算法和人工智能應用上，《指南》提出，需要考慮的因素包括在兒童智能手表售賣(mài)前對算法模型進(jìn)行科技倫理審查，重點(diǎn)審查對兒童行為習慣、身心健康的直接或間接影響；在兒童智能手表售賣(mài)前對自動(dòng)化決策開(kāi)展專(zhuān)門(mén)的個(gè)人信息保護影響評估，確保采取的安全措施與風(fēng)險相適應，并向監護人開(kāi)放查詢(xún)、答疑渠道。
此外，《指南》也提到，兒童智能手表使用生成式人工智能技術(shù)的，兒童智能手表制造者需考慮的因素包括限制單日對話(huà)次數與對話(huà)時(shí)長(cháng)，若超過(guò)使用次數或時(shí)間需輸入管理密碼；過(guò)濾少兒不宜內容，僅展示有益身心健康的內容；生成式人工智能算法訓練的語(yǔ)料數據不具備任何可識別個(gè)人的特征數據等。
采寫(xiě)：南都記者 汪陳晨
