理論上說多數人工智慧服務都會設定安全邊界用來阻止生成包括色情、暴力、血腥和盜版等方面的內容，當然這種安全邊界可以調整以及安全邊界並不總是有效。
例如有網友發現微軟的 Copilot AI 已經可以識別大名鼎鼎的 Massgrave 線上啟用工具，當用戶詢問的時候 Copilot AI 會分步驟說明如何透過該指令碼進行啟用。
當然這種對話多少有些誘導的嫌疑，但即便如此微軟應該也能識別出這存在盜版方面的問題，只是 Copilot AI 不僅沒有拒絕回答甚至還給出步驟讓人非常驚訝。
值得注意的是 Copilot AI 給出的啟用分步驟是完全正確的，事實上使用者確實只需要透過 PowerShell 執行 MAS 的啟用命令即可下載啟用指令碼實現啟用，另外 Copilot AI 也確實提醒執行此類指令碼存在風險，例如未經授權的啟用可能違反微軟的服務條款。
要說準確性 Copilot AI 可能並不差，例如在風險裡明確說明使用啟用指令碼可能違反許可協議而產生的法律後果、潛在惡意指令碼的安全漏洞、系統不穩定和效能問題、缺乏微軟的官方支援、更新的潛在問題以及軟體盜版的到的考慮。
如果不考慮這是個盜版啟用步驟那 Copilot AI 的回答可以說是非常完美了，不過微軟很快應該就會調整避免 Copilot AI 再次提供這類啟用指令碼和盜版相關的回答。
另外暗地裡微軟其實對使用者使用盜版 Windows 11 的容忍度非常高，正如微軟前員工所說，只要你使用 Windows 11 那麼你就是產品，是否購買正版許可證那是無所謂的，畢竟微軟也不在乎零售許可證這點收入。