獲諾貝爾物理學(xué)獎的“AI教父”，為何后悔研究AI？

近日，瑞典皇家科學(xué)院宣布，將2024年諾貝爾物理學(xué)獎授予美國普林斯頓大學(xué)的約翰·霍普菲爾德和加拿大多倫多大學(xué)的杰弗里·辛頓，以表彰他們“為推動(dòng)利用人工神經(jīng)網(wǎng)絡(luò )進(jìn)行機器學(xué)習做出的基礎性發(fā)現和發(fā)明”。

↑美國普林斯頓大學(xué)的約翰·霍普菲爾德和加拿大多倫多大學(xué)的杰弗里·辛頓

諾貝爾獎評獎委員會(huì )表示：“今年物理學(xué)獎得主取得的突破建立在物理科學(xué)的基礎上。他們?yōu)槲爷鋫冋故玖?一種全新的方式，讓我們能夠利用計算機來(lái)幫助和指導我們，應對社會(huì )面臨的許多挑戰。”

的確，兩位科學(xué)家的研究領(lǐng)域和成果，看上去有些“不物理”。比如，辛頓被視為由ChatGPT掀起的本輪AI技術(shù)躍進(jìn)背后的奠基性科學(xué)家，被譽(yù)為“AI教父”。而關(guān)注“AI教父”獲諾貝爾物理學(xué)獎之時(shí)，辛頓的“AI威脅論”或許更值得關(guān)注。

辛頓曾在谷歌工作十年，2023年5月，他從谷歌離職后，便持續公開(kāi)呼吁謹慎對待AI技術(shù)，成為旨在引導AI系統、使其行為符合設計者利益和預期目標的“AI對齊派”的代表。他在社交平臺上發(fā)文表示，自己離開(kāi)谷歌是為了可以“公開(kāi)地談?wù)揂I的危險”。辛頓曾直言，“我用平常的借口來(lái)安慰自己：就算我沒(méi)做，別人也會(huì )做的……很難想象，你能如何阻止壞人利用它（AI）來(lái)做壞事。”

這樣的言論并非危言聳聽(tīng)，現已發(fā)生多起AI造假和騙局事件，而且AI風(fēng)險涉及社會(huì )和個(gè)人生活的方方面面。正如有專(zhuān)家所言，“當新聞、圖像、音頻、視頻——任何事情都可以偽造時(shí)，那么在那個(gè)世界里，就沒(méi)有什么是真實(shí)的”。

對于A(yíng)I的危險和人們使用AI的安全性，國際社會(huì )已有共識。2021年，吉印通國教科文組織通過(guò)首份人工智能倫理問(wèn)題全球性協(xié)議——《人工智能倫理問(wèn)題建議書(shū)》。其中提出，發(fā)展和應用人工智能要體現出四大價(jià)值，即尊重、保護和提升人權及人類(lèi)尊嚴，促進(jìn)環(huán)境與生態(tài)系統的發(fā)展，保證多樣性和包容性，構建和平、公正與相互依存的人類(lèi)社會(huì )。該建議書(shū)還包含了規范人工智能發(fā)展應遵循的原則，以及在原則指導下人工智能應用的領(lǐng)域等。

研發(fā)和應用AI，要遵循適宜性（相稱(chēng)性）、安全、公平、透明、保護隱私和公正等原則。比如，從適宜性，也即相稱(chēng)性和合理性來(lái)看，任何一項AI產(chǎn)品的研究和使用，都應證明選擇使用人工智能系統和選用哪種人工智能方法具有合理性。正如當下生物醫學(xué)研究和醫院治療病人，在涉及生命和安全時(shí)要經(jīng)過(guò)倫理委員會(huì )的討論和批準，AI產(chǎn)品的發(fā)展也需經(jīng)歷必要的程序和步驟，避免造成社會(huì )恐慌、傷害、損失甚至災難。

未來(lái)，任何研究AI并推出AI產(chǎn)品的機構和個(gè)人，都應當以《人工智能倫理問(wèn)題建議書(shū)》進(jìn)行評估，而且在推向社會(huì )后，各國也需要有相應AI倫理指南的法律進(jìn)行監管。如此，才能讓AI最大程度地造福社會(huì )，最低程度地傷害社會(huì )。

來(lái)源：紅星新聞