谷歌Workspace生產力套件中的AI助手Gemini近期被安全研究人員發現存在嚴重安全隱患，可能被網路犯罪分子利用進行"提示注入"攻擊，進而竊取使用者Gmail賬戶。這一發現揭示了生成式人工智慧在企業環境中應用時可能帶來的新型安全威脅。
Gemini作為谷歌在Workspace中引入的AI聊天機器人助手，具備彙總電子郵件的功能。使用者可以在檢視郵件時調出右側垂直窗格，向Gemini尋求幫助，如提取重要郵件資訊、新增日曆條目等。然而，正是這一便利功能現在成為了潛在的安全漏洞。
"隱形提示"攻擊原理
安全研究員Marco Figueroa發現，攻擊者可以透過HTML和CSS技術在電子郵件中嵌入針對Gemini的隱藏提示。這些提示的字型大小被設定為零，顏色設為白色，使得收件人無法察覺，但Gemini系統仍會讀取並執行這些指令。
"這種攻擊方式特別危險，因為惡意提示可以誘導Gemini顯示虛假的安全警告，"Figueroa解釋道。在他的演示中，惡意提示能使Gemini顯示賬戶被盜用的虛假警報，並提示使用者撥打指定的"谷歌支援電話"解決問題——實際上這個號碼由攻擊者控制。
透過Mozilla的AI服務漏洞賞金計劃0DIN披露的詳細報告顯示，攻擊者能夠完全操控Gemini的輸出內容。在一個示例中，隱藏指令導致Gemini在郵件摘要中添加了虛假的Gmail密碼洩露警告，並附上解決問題的電話號碼。
"Gemini系統會'忠實地服從'這些隱藏指令，"報告指出，"由於輸出看起來來自谷歌官方服務，使用者更容易上當受騙。"這種攻擊方式的狡猾之處在於不需要傳統釣魚郵件中的可疑附件或連結，僅透過郵件正文中不可見的指令就能實現攻擊。
防禦措施與谷歌回應
針對這一新型威脅，安全專家建議企業採取多層次的防護措施：
1、確保電子郵件客戶端能夠識別並刪除、中和或忽略正文中的隱藏內容
2、部署後處理過濾器，掃描收件箱中的"緊急訊息"、URL或電話號碼
3、對員工進行安全教育，明確AI生成的摘要不能替代正式安全警報
谷歌公司發言人向TechRadar Pro證實："防禦提示注入攻擊是我們的首要任務。我們透過紅隊演習不斷強化防禦能力，訓練模型抵禦此類對抗性攻擊。"該公司還發布部落格文章，詳細介紹了正在部署的具體防禦措施，這些措施目前處於實施中期階段。
儘管谷歌表示尚未發現實際利用此漏洞的攻擊案例，但安全專家強調，隨著AI助手在工作場景中的普及，此類新型攻擊方式可能會變得更加常見。企業使用者在使用Gemini等AI工具處理電子郵件時應當保持警惕，對AI生成的任何安全警報都應透過官方渠道進行二次確認。
這一發現再次凸顯了人工智慧技術在帶來便利的同時也引入了新型安全挑戰，需要技術提供商和安全研究人員共同努力，建立更加完善的防護體系。
https://www.bleepingcomputer.com/news/security/google-gemini-flaw-hijacks-email-summaries-for-phishing/
https://www.techradar.com/pro/security/google-gemini-can-be-hijacked-to-display-fake-email-summaries-in-phishing-scams
https://www.pcmag.com/news/google-gemini-bug-turns-gmail-summaries-into-phishing-attack
點選上方標題閱讀推薦文章 ▲
投稿請加微信ID: usa001888，說明投稿內容。投稿電子郵箱：[email protected]
如果此文由【大紐約生活網 】獨家約稿、創作，此作品未經授權，嚴禁轉載，否則追究法律責任。如果此文由本網獨家整理編輯，取自網路的圖片屬於原作者。文章內容僅代表作者本人觀點，不代表本網觀點或立場。編輯致力於保護作者版權，部分作品來自網際網路，如涉侵權，請聯絡刪除。微訊號：GreaterNY。