AI治理工作中的四大重要經(jīng)驗

盡管部分IT領(lǐng)導者對AI新興技術(shù)的全面爆發(fā)措手不及，但不少同行卻表現出卓越的遠見(jiàn)，建立起AI治理框架以控制事態(tài)穩定。本文將帶來(lái)他們分享的四條積極策略與經(jīng)驗教訓。

總部于位于得克薩斯州奧斯汀的軟件公司Planview從18個(gè)月前起，就開(kāi)始使用生成式AI提升生產(chǎn)效率。在此期間，他們還嘗試將生成式AI整合進(jìn)自己的產(chǎn)品當中，構建起可供用戶(hù)交互的copilot服務(wù)，用于支持戰略投資組合與價(jià)值流管理。Copilot提供的規劃場(chǎng)景能夠幫助管理人員達成產(chǎn)品發(fā)布目標，并就如何根據路線(xiàn)圖開(kāi)發(fā)并交付成果、在各團隊間共享工作以及重新分配投資等任務(wù)給出建議。

作為AI的早期采用者，Planview公司很早就意識到如果想要以嚴肅態(tài)度應用AI技術(shù)，就必須制定政策和治理方案，全面涵蓋企業(yè)內部所做工作以及在產(chǎn)品供應方面做出的增強探索。根據該公司的經(jīng)驗以及其他CIO們的心得，本文總結出四條重要經(jīng)驗，希望能幫助更多組織制定出適合自身需求的AI治理方法。

依托現有框架

AI治理與其他治理并沒(méi)有本質(zhì)上的區別。事實(shí)上，根據Planview公司CTO Mik Kersten的說(shuō)法，由于大多數AI政策都與數據緊密相關(guān)，因此復用現有框架的難度并不算高。Planview方面就延續了其之前在開(kāi)源和云領(lǐng)域采取的指導方針，并根據AI治理的需求對具體細節做出了調整。

佛羅里達州立大學(xué)（FSU）的情況則完全不同，其AI治理體系源自之前的IT治理委員會(huì )。該委員會(huì )負責定期討論以確定投資與風(fēng)險優(yōu)先級。佛州大學(xué)CIO Jonathan Fozard表示，“我們會(huì )對整個(gè)校區內的投資項目進(jìn)行排名，包括財務(wù)排名、價(jià)值排名和影響排名。AI項目也開(kāi)始成為討論中的一部分，這就是我們探索AI治理的第一步?！?/p>

佛州大學(xué)的用例范圍從學(xué)術(shù)研究到辦公生產(chǎn)力無(wú)所不包——他們將AI作為課程的一部分納入教學(xué)，涉及工程、法律等各院系全體學(xué)生在未來(lái)參與勞動(dòng)力市場(chǎng)時(shí)可能需要的AI專(zhuān)業(yè)知識。Fozard解釋稱(chēng)，在成本、風(fēng)險與潛在增值間的平衡探索就像在玩蹺蹺板。在第一輪討論中，部分項目會(huì )脫穎而出。之后該委員會(huì )開(kāi)始關(guān)注這些高優(yōu)先級項目，并通過(guò)種種舉措確保其能夠滿(mǎn)足高校自身的保護要求，包括知識產(chǎn)權、研究方向、用戶(hù)隱私以及敏感數據等。

Fozard總結道，“無(wú)論身處高等教育機構還是企業(yè)環(huán)境，首先需要關(guān)注的都是生產(chǎn)環(huán)節。因此應當拋開(kāi)浮華，真正想清楚自己地打算實(shí)現什么。找出如何使用技術(shù)在組織的各個(gè)層面上實(shí)現創(chuàng )新，然后切實(shí)保護好自己的數據和員工?！?/p>

明確哪些歸于內部，哪些付諸合作伙伴

Kersten指出，“我們必須制定出非常明確的政策，闡明哪些應由內部構建、哪些來(lái)自外部采購。我們擁有體量龐大的AI與數據科學(xué)團隊，我們的客戶(hù)成功部門(mén)要求這些團隊能夠建立起客戶(hù)支持能力。但在另一方面，我們也需要這些專(zhuān)家把精力投產(chǎn)到產(chǎn)品功能的開(kāi)發(fā)中來(lái)。為了讓他們繼續從事核心工作，我們必須借政策之手明確哪些靠造、哪些靠買(mǎi)?！?/p>

在Kersten看來(lái)，明確開(kāi)源使用政策同樣非常重要。Planview公司就決定僅在研究和內部用例中使用開(kāi)源AI模型。至于銷(xiāo)售功能方面，該公司選擇了具有明確使用條款的大語(yǔ)言模型作為實(shí)現基礎?！拔覀兊恼咧辛杏忻鞔_條款，保證大語(yǔ)言模型提供商的使用條款符合我們的隱私與合規性要求?！?/p>

而在另一個(gè)完全不同的行業(yè)，總部位于香港的國際英語(yǔ)培訓機構華爾街英語(yǔ)則開(kāi)發(fā)出自己的AI技術(shù)棧，旨在掌握對其業(yè)務(wù)至關(guān)重要的技術(shù)成果。該公司首席產(chǎn)品與技術(shù)官Roberto Hortal表示，“我們努力加快創(chuàng )新速度、提升成果質(zhì)量，并打造一系列切實(shí)符合學(xué)生與教師需求的定制化解決方案。我們保持積極主動(dòng)的態(tài)度，并將對最新發(fā)展趨勢、最佳實(shí)踐與潛在風(fēng)險的把握納入到自身政策中來(lái)?！?/p>

作為一家教育機構，華爾街英語(yǔ)將AI技術(shù)融入其自學(xué)課程。他們利用AI進(jìn)行語(yǔ)音識別、提供發(fā)音反饋，并作為對話(huà)智能體的基礎，希望借此讓學(xué)生通過(guò)模仿現實(shí)場(chǎng)景來(lái)練習對話(huà)技巧。該公司還開(kāi)發(fā)出一套治理框架，嘗試將技術(shù)、金融、法律乃至多元文化環(huán)境中的道德問(wèn)題納入統籌考量。

保護完整價(jià)值鏈中的各個(gè)環(huán)節

考慮到對代碼生成工具的廣泛運用，Planview公司的AI治理方案強調了不侵犯版權資產(chǎn)的規則和指南。其中還包括軟件保護條款，要求任何代碼生成工具均不可捕捉其產(chǎn)品信息并在其他場(chǎng)景下重復使用。Kersten解釋稱(chēng)，該公司的AI治理不僅明確強調了這些要點(diǎn)，還會(huì )指導用戶(hù)如何配置工具。

Kersten指出，“GitHub Copilot中有一項行署，可以檢查并保證不會(huì )向開(kāi)發(fā)者提供受到版權保護的代碼。另外一項設置則可檢查用戶(hù)的最終代碼，以確保其與原有repo中的代碼內容不致太過(guò)接近。還有一項設置，可以要求GitHub Copilot不保留用戶(hù)編寫(xiě)的代碼?！?/p>

當然，具體需要保護什么取決于公司業(yè)務(wù)線(xiàn)。Planview自然高度關(guān)注知識產(chǎn)權保護，而華爾街英語(yǔ)重視的則更多是文化敏感性。他們會(huì )調整課程內容以避免冒犯學(xué)生，因此公司使用的AI工具也必須做到這一點(diǎn)。Hortal表示，“正如我們會(huì )聘請訓練有素的教師來(lái)完善我們的在線(xiàn)課程，確保不會(huì )發(fā)表任何不當言論一樣，我們也必須保證AI工具不會(huì )在無(wú)意之中表達存在爭議或者不恰當的內容。我們采用了輸入清理、上下文跟蹤和內容過(guò)濾等技術(shù)來(lái)降低風(fēng)險、修復漏洞。所有這些也都成為我們AI治理體系中的組成部分?！?/p>

無(wú)論具體想要保護什么，制定規則時(shí)都不該把思路僅僅限定在自身組織以?xún)?，而應努力確保外包形式的工作也能得到同樣的保護。LogicGate是一家提供整體治理、風(fēng)險與合規（GRC）平臺的軟件廠(chǎng)商，公司CEO Matt Kunkel認為“那些全球最先進(jìn)的公司往往在內部有著(zhù)令人驚嘆的AI治理架構。但在外部場(chǎng)景下，他們往往會(huì )將所有數據都發(fā)送給第三方，由第三方利用這些數據訓練自己的大語(yǔ)言模型。所以如果第三方不接受你的AI使用政策，那你就失去了對AI治理工作的控制權?！?/p>

立即行動(dòng)，刻不容緩

已經(jīng)實(shí)施AI治理方案的IT領(lǐng)導者給出的頭號建議，就是立即行動(dòng)起來(lái)。從IT領(lǐng)導層開(kāi)始研究AI治理再到規則在整個(gè)組織內的傳遞，前后往往需要幾個(gè)月的時(shí)間。舉例來(lái)說(shuō)，從Planview公司開(kāi)始考慮自身政策，到通過(guò)學(xué)習管理系統將政策交付至各個(gè)部門(mén)，大致就花掉了六個(gè)月時(shí)間。

作為AI技術(shù)的早期采用者之一，Kersten經(jīng)常公開(kāi)討論Planview的經(jīng)歷?！跋麡O被動(dòng)的組織將跟不上時(shí)代，所以請馬上開(kāi)始制定你的政策。這沒(méi)有大家想象中那么困難，而且一旦制定出政策，它就能幫助我們在內部創(chuàng )造成果、在外部約束產(chǎn)品的市場(chǎng)交付?！?/p>

Kunkel也對此表示贊同?！坝白佑美呀?jīng)形成，所以CIO們必須盡快把AI政策重視起來(lái)。一個(gè)理想的起點(diǎn)就是在組織內圍繞AI風(fēng)險偏好建立起共識。人們需要能夠坦誠地討論如何在快速行動(dòng)與保護客戶(hù)數據之間取得平衡?！?/p>

而一旦確立了治理流程并將其傳達給整個(gè)組織，員工們也就可以放開(kāi)手腳、專(zhuān)注于創(chuàng )造新的價(jià)值。