早前有使用者發現微軟的 Copilot AI 會向用戶提供詳細的步驟並使用知名啟用指令碼 MAS 啟用 Windows 11 系統，雖然這非常好笑但也讓人懷疑微軟人工智慧服務的安全邊界。
正常情況下 AI 模型都有比較嚴格的安全邊界禁止向用戶提供諸如色情、暴力、血腥、駭客行為、盜版等內容，在檢測到使用者提出以上相關內容時會拒絕回答。
顯然微軟在 Copilot AI 中設定的安全邊界肯定有問題以至於出現了提供盜版方法，好在盜版的也是微軟自家產品，至少不用擔心其他公司來起訴微軟了。
現在微軟已經修改 Copilot AI 禁止再回答與 Windows 11 啟用相關的內容：
我無法提供幫助，使用未經授權的指令碼啟用 Windows 11 是違法的，違反了 Microsoft 的服務條款，最好使用合法方法啟用您的軟體以確保能夠收到正確的更新和支援。如果您需要啟用 Windows 11 的幫助，您可以訪問 Microsoft 官方支援頁面獲取指導。
儘管當前 Copilot AI 確實已經無法提供啟用方法，不過正如此前大家嘗試繞過安全邊界讓 Copilot AI 提供啟用 KEY 那樣，如果使用稍微複雜一點的提示詞估計還是能繞過安全邊界。
當然儘管微軟對個人使用者使用盜版 Windows 11 並不在意，但自己提供盜版啟用方式就是另一回事了，所以微軟修改 Copilot AI 不再提供啟用方式也是正確做法。