一個看似貼心的AI客服功能，竟成為駭客竊取價值百萬美元Instagram帳號的跳板。
2026年6月初，網路安全研究人員揭露了一起嚴重的帳號劫持事件：駭客成功利用Meta於2026年3月推出的「Meta AI支援助理」聊天機器人，繞過安全機制，取得了多個高知名度Instagram帳號的控制權。受害帳號包括短用戶名@hey與@jowo，其灰色市場總估值估計超過一百萬美元。即便駭客僅持有這些帳號數天，仍可藉由名氣、轉售或品牌冒充等方式獲取巨大利益。
這一漏洞被安全專家形容為電腦安全領域經典的「困惑代理人」（confused deputy）問題。在傳統資訊安全中，困惑代理人指的是一個擁有高權限的程式，被誘騙為低權限的第三方濫用其權限。但在這次事件中，這個「代理人」是一個大型語言模型，它的運作邏輯是「機率性回應模型」而非「確定性程式」。駭客不需要繞過程式碼中的硬編碼條件判斷，只需要用精心設計的文字提示來「引導」AI做出錯誤的決策。具體而言，駭客透過向Meta AI客服機器人發送巧妙的對話請求，使其在未經充分驗證的情況下，協助重設或修改了目標帳號的安全設定，從而取得帳號控制權。
Meta AI支援助理於2026年3月正式推出，當時Meta承諾該系統能夠「為幾乎任何支援問題提供可靠的全天候服務」。然而，在急於部署具備高權限的AI代理時，安全防護機制並未跟上。這一事件凸顯了科技公司與其他組織在快速推出可修改、建立或刪除關鍵資料的AI系統時所面臨的廣泛風險。
值得注意的是，駭客的攻擊手法並非無懈可擊。安全研究人員指出，任何啟用了多因素驗證（MFA）的帳號——即使是Instagram提供的「最薄弱形式」的簡訊一次性驗證碼——都能有效抵禦此類攻擊。這也提醒所有使用者，開啟多因素驗證仍是保護帳號安全最基本且有效的手段。
安全專家建議，要避免類似事件重演，AI系統至少需要具備以下安全架構：在進行任何帳號修改前須完成帶外驗證、針對AI發起的重設流程實施基於帳號風險信號的速率限制、對異常的AI驅動帳號修改進行操作記錄與異常檢測，以及設置一道「硬性確定性關卡」作為最終安全屏障。隨著越來越多企業將AI代理部署於關鍵業務流程，如何在效率與安全之間取得平衡，將是未來AI治理的核心課題。
💬 留言