微軟 Copilot AI 被指可被黑客操縱，輕松竊取企業(yè)機密

IT之家 8 月 11 日消息，據 Futurism 報道，安全研究人員近日揭示微軟內置于 Windows 系統的 Copilot AI 可被輕松操控泄露企業(yè)敏感數據，甚至變身強大的釣魚(yú)攻擊工具。

IT之家注意到，安全公司 Zenity 吉印通創(chuàng )始人兼 CTO Michael Bargury 在拉斯維加斯黑帽安全大會(huì )上披露了這一驚人發(fā)現，他表示，“我可以利用它獲取你的所有聯(lián)系人信息，并替你發(fā)送數百封電子郵件。”他指出，傳統黑客需要花費數天時(shí)間精心制作釣魚(yú)郵件，而利用 Copilot，幾分鐘內即可生成大量具有欺騙性的郵件。

研究人員通過(guò)演示展示了攻擊者無(wú)需獲取企業(yè)賬戶(hù)即可誘騙 Copilot 修改銀行轉賬收款人信息，只需發(fā)送一封惡意郵件，甚至無(wú)需目標員工打開(kāi)即可實(shí)施攻擊。

另一個(gè)演示視頻揭露了黑客在獲取員工賬戶(hù)后可利用 Copilot 造成嚴重破壞。通過(guò)簡(jiǎn)單的提問(wèn)，Bargury 成功獲取了敏感數據，他可以利用這些數據來(lái)冒充員工發(fā)起網(wǎng)絡(luò )釣魚(yú)攻擊。Bargury 首先獲取同事 Jane 的郵箱地址，了解與 Jane 的最近一次對話(huà)內容，并誘導 Copilot 泄露該對話(huà)中的抄送人員郵箱。隨后，他指示 Copilot 以被攻擊員工的風(fēng)格撰寫(xiě)一封發(fā)送給 Jane 的郵件，并提取兩人最近一次郵件的準確主題。短短幾分鐘內，他就創(chuàng )建了一封具有高度可信度的釣魚(yú)郵件，可向網(wǎng)絡(luò )中的任何用戶(hù)發(fā)送惡意附件，而這一切都得益于 Copilot 的積極配合。

微軟 Copilot AI，尤其是 Copilot Studio，允許企業(yè)定制聊天機器人以滿(mǎn)足特定需求。然而，這也意味著(zhù) AI 需要訪(fǎng)問(wèn)企業(yè)數據，從而引發(fā)安全隱患。大量聊天機器人默認情況下可被在線(xiàn)搜索到，成為黑客的攻擊目標。

攻擊者還可以通過(guò)間接提示注入繞過(guò) Copilot 的防護措施。簡(jiǎn)單來(lái)說(shuō)，可以通過(guò)外部來(lái)源的惡意數據，例如讓聊天機器人訪(fǎng)問(wèn)包含提示的網(wǎng)站，來(lái)使其執行禁止的操作。Bargury 強調：“這里存在一個(gè)根本問(wèn)題。當給 AI 提供數據訪(fǎng)問(wèn)權限時(shí)，這些數據就成為了提示注入的攻擊面。某種程度上來(lái)說(shuō)，如果一個(gè)機器人有用，那么它就是脆弱的；如果它不脆弱，它就沒(méi)有用。”