AI 隱私保衛戰：蘋(píng)果的“隱私孤島” 與 Android 的“混合 AI”

“在人工智能的浪潮中，我們不能以犧牲隱私為代價(jià)換取便利?！? 月 10 日Apple 在全球開(kāi)發(fā)者大會(huì )上宣布了一個(gè)重大的 AI 舉措——“Apple Intelligence”，證實(shí)了長(cháng)期的傳聞，即它將與 OpenAI 合作，將 ChatGPT 帶入 iPhone。

OpenAI 的吉印通創(chuàng )始人之一埃隆·馬斯克很快在 X 上做出回應，稱(chēng)由 ChatGPT 支持的 Apple AI 工具是“令人毛骨悚然的間諜軟件”和“不可接受的安全違規行為”。他警告說(shuō)：“如果 Apple 在操作系統層面集成 OpenAI，那么我的公司將禁止使用 Apple 設備?！?/p>

但在 AI 隱私問(wèn)題受到關(guān)注之際，iPhone 制造商 Apple 表示，Apple Intelligence 提供了一種保護用戶(hù)數據的新方式。該公司正在研究哪些核心任務(wù)可以在設備本地完成，以最大限度地保護隱私。

對于更復雜的請求，Apple 開(kāi)發(fā)了一種稱(chēng)為“Private Cloud Compute (PCC)”的基于云的系統，運行在自己的服務(wù)器上。該公司稱(chēng)這是一種保護新興 AI 時(shí)代隱私的創(chuàng )新方式。

Apple 軟件工程高級副總裁克雷格·費德里吉稱(chēng)其戰略是“AI 隱私的全新標準”。那么，Apple 的說(shuō)法是否站得住腳？與包括三星 Galaxy 系列在內的設備上提供的“混合 AI”產(chǎn)品相比，Apple 的戰略有何不同？

AI 與端到端加密

Digital Barriers 首席執行官扎克·多夫曼表示，通過(guò) PCC，Apple 設計了一種全新的端到端 AI 架構，讓用戶(hù)的 iPhone 擁有私有云飛地擴展，從而可以更好地控制數據。Digital Barriers 是一家專(zhuān)注于實(shí)時(shí)監控視頻存儲和分析的公司。

在實(shí)踐中，這意味著(zhù) Apple 可以掩蓋 AI 提示的來(lái)源，并防止任何人（包括 Apple 本身）訪(fǎng)問(wèn)用戶(hù)的數據。多夫曼說(shuō)：“從理論上講，這是云端 AI 實(shí)現端到端加密的最接近的方式?！?/p>

Inrupt 安全架構負責人布魯斯·施奈爾表示，Apple 為其 AI 構建了一個(gè)“相當令人印象深刻的隱私系統”。他說(shuō)：“Apple 的目標是讓 AI 的使用——甚至是在云端——與手機的安全性一樣安全。這是一個(gè)復雜的過(guò)程，但我認為他們做得相當不錯?！?/p>

到目前為止，還沒(méi)有任何其他解決方案能與之相提并論。在搭載 Google Android 和 Google Nano 系列的三星 Galaxy 設備上使用的“混合 AI”中，一些 AI 流程在本地處理，在必要時(shí)利用云端來(lái)實(shí)現更先進(jìn)的功能。

GRC International Group 人工智能集團負責人卡姆登·伍爾文表示，其想法是盡可能提供隱私保護，同時(shí)提供強大的 AI 功能?！斑@意味著(zhù)你甚至可以在中端智能手機上體驗到一些相當復雜的 AI?！?/p>

但是，這種類(lèi)型的混合 AI 處理仍可能存在風(fēng)險，因為一些數據被發(fā)送到云服務(wù)器，而沒(méi)有 Apple 通過(guò)其 PCC 提供的相同級別的問(wèn)責制?！皩τ诨旌?AI 來(lái)說(shuō)，一些數據必須離開(kāi)設備并在其他地方處理，使其更容易受到攔截或濫用，”Open 技術(shù)研究所創(chuàng )始人兼總監里卡多·奧克萊波說(shuō)。

然而，谷歌及其硬件合作伙伴認為，隱私和安全性是 Android AI 方法的主要關(guān)注點(diǎn)。三星電子安全團隊負責人、移動(dòng)業(yè)務(wù)副總裁 Justin Choi 表示，其混合 AI 為用戶(hù)提供了“對數據的控制和無(wú)可妥協(xié)的隱私保護”。

Choi 解釋說(shuō)，云端處理的功能受到嚴格政策制約的服務(wù)器保護。他說(shuō)：“我們在設備上的 AI 功能通過(guò)在設備本地執行任務(wù)來(lái)提供額外的安全性，并且不會(huì )依賴(lài)云服務(wù)器，既不存儲設備數據，也不向云上傳數據?！?/p>

谷歌表示，其數據中心采用了強大的安全措施，包括物理安全、訪(fǎng)問(wèn)控制和數據加密。該公司表示，當在云端處理 AI 請求時(shí)，數據將保留在安全的谷歌數據中心架構內，并且不會(huì )將用戶(hù)信息發(fā)送給第三方。

同時(shí)，Choi 表示，Galaxy 的 AI 引擎不會(huì )使用來(lái)自設備上功能的用戶(hù)數據進(jìn)行訓練。三星會(huì )通過(guò)其 Galaxy AI 符號清楚地表明哪些 AI 功能在設備上運行，并且智能手機制造商會(huì )添加水印以顯示內容何時(shí)使用了生成式 AI。

該公司還引入了名為“高級智能設置”的新安全和隱私選項，讓用戶(hù)可以選擇禁用基于云的 AI 功能。

谷歌表示，該公司“擁有保護用戶(hù)數據隱私的悠久歷史”，并補充說(shuō)這適用于其在設備上和云端啟用的 AI 功能?！皩τ诿舾邪咐?，例如篩選電話(huà)，我們使用設備上的模型，數據永遠不會(huì )離開(kāi)手機，”谷歌產(chǎn)品信任副總裁蘇珊·弗雷告訴 WIRED。

弗雷描述了谷歌產(chǎn)品如何依賴(lài)其基于云的模型，以確?！跋M者的信息，例如需要總結的敏感信息，永遠不會(huì )被發(fā)送給第三方進(jìn)行處理?！?/p>

她說(shuō)：“我們一直致力于構建人們可以信任的 AI 功能，因為它們默認安全，設計時(shí)考慮了隱私，最重要的是，它們遵循了谷歌首創(chuàng )的負責任的 AI 原則?！?/p>

Apple 改變了對話(huà)

專(zhuān)家表示，Apple 的 AI 戰略不僅僅是匹配“混合”的數據處理方法，它改變了對話(huà)的性質(zhì)。多夫曼說(shuō)：“每個(gè)人都期待這種設備內、隱私至上的推動(dòng)，但 Apple 實(shí)際上做的是說(shuō)，無(wú)論您在 AI 中做什么，或在哪里做——重要的是如何做?！?他認為這“很可能會(huì )定義智能手機 AI 領(lǐng)域的最佳實(shí)踐?！?/p>

即便如此，Apple 還沒(méi)有贏(yíng)得 AI 隱私之戰：與 OpenAI 的交易——Apple 不同尋常地向外部供應商開(kāi)放其 iOS 生態(tài)系統——可能會(huì )損害其隱私聲明。

Apple 反駁了馬斯克關(guān)于與 OpenAI 的合作會(huì )損害 iPhone 安全性的說(shuō)法，稱(chēng)“為訪(fǎng)問(wèn) ChatGPT 的用戶(hù)構建了隱私保護措施”。該公司表示，在查詢(xún)被共享給 ChatGPT 之前，會(huì )要求用戶(hù)許可，同時(shí)會(huì )模糊 IP 地址，并且 OpenAI 不會(huì )存儲請求——但 ChatGPT 的數據使用政策仍然適用。

安全公司 ESET 的全球網(wǎng)絡(luò )安全顧問(wèn)杰克·摩爾表示，與另一家公司合作對 Apple 來(lái)說(shuō)是一個(gè)“奇怪的舉動(dòng)”，但這一決定“不會(huì )輕易做出”。雖然確切的隱私影響尚不清楚，但他承認“雙方都可能收集一些個(gè)人數據，并且這些數據可能被 OpenAI 分析?！?/p>

這意味著(zhù)對于一些數據，“你只能遵守 OpenAI 的規則，”施奈爾說(shuō)?！癆pple 在向 OpenAI 發(fā)送查詢(xún)時(shí)刪除識別信息，但是許多查詢(xún)中包含大量的識別信息?！?/p>

蘋(píng)果和 OpenAI 之間的合作有可能“完全改變 AI 領(lǐng)域的問(wèn)責制”，人工智能教授兼科技咨詢(xún)公司 Wisdom Works Group 創(chuàng )始人安迪·帕多說(shuō)?！斑@種合作伙伴關(guān)系將責任分散到多個(gè)實(shí)體，從而影響到如何為其互連系統內的成功和潛在失敗分配責任?！?/p>

隨著(zhù) AI 技術(shù)被集成到科技巨頭的操作系統中，還需要考慮安全風(fēng)險。至少在理論上，Apple Intelligence 是一個(gè)令人印象深刻的壯舉，但該公司 的 AI 工具也創(chuàng )造了“一個(gè)前所未見(jiàn)的巨大攻擊面”，多夫曼說(shuō)?！八捎昧艘幌盗胁煌陌踩珓?chuàng )新，并將其結合到一個(gè)新的產(chǎn)品中以實(shí)現一個(gè)新的目的，因此，如果它起作用，它將是一個(gè)改變游戲規則的舉措。但在它上線(xiàn)時(shí)，Apple 將需要管理一些問(wèn)題?！?/p>

正因為如此，Apple 和谷歌都在鼓勵安全研究人員尋找其 AI 解決方案中的漏洞。谷歌的安全 AI 框架讓安全公司 Mandiant 測試了 AI 模型的防御能力。

Apple 的一位發(fā)言人提供了該公司關(guān)于 PCC 安全性論文和模型論文的鏈接，詳細介紹了其對 AI 開(kāi)發(fā)的“負責任”方法。 Apple 沒(méi)有對 WIRED 關(guān)于其與 OpenAI 的合作引發(fā)的隱私問(wèn)題或潛在安全風(fēng)險的后續問(wèn)題做出公開(kāi)回應。

Apple 正在為 PCC 使用一種稱(chēng)為“可驗證透明度”的模式。 Apple 在介紹 PCC 的一篇博客文章中說(shuō)：“我們希望確保安全和隱私研究人員可以檢查 Private Cloud Compute 軟件、驗證其功能并幫助識別問(wèn)題——就像他們可以與 Apple 設備一樣?！?為了實(shí)現這一點(diǎn)，Apple 正在向安全研究人員公開(kāi)提供 PCC 每個(gè)生產(chǎn)版本的軟件圖像。

Apple Intelligence 將與即將推出的 iOS 18 軟件更新一起集成到 ChatGPT 中，完整的功能套件將于今年秋天在 iPhone 16 上推出。你可以選擇禁用此功能，但如果你想在任何設備上使用 AI 功能，最好考慮其隱私和安全影響。

具體到 iOS 和 Android AI，這取決于你信任誰(shuí)。帕多建議評估操作系統在隱私功能、數據處理實(shí)踐和透明度方面的整體權衡。帕多指出：“Apple 對隱私的強烈關(guān)注仍然是優(yōu)先考慮數據安全性高于一切的用戶(hù)的一個(gè)關(guān)鍵看點(diǎn)?！?/p>