一朵玫瑰為何成了ChatGPT的新禁忌詞？｜亮馬橋小紀嚴選

2025-04-23 20:47 紀源資本

小紀有話說：
你能讓 ChatGPT 畫一朵玫瑰嗎？
據 X 網友 @ai_for_success 發現，當你讓 GPT-4o 生成一朵玫瑰花的照片時，它會一口回絕稱：
我無法生成這朵玫瑰的影像，因為它未能符合我們的內容政策。如果你有其他需求，比如更改描述或風格，可以告訴我，我會盡力幫助你！
為什麼“玫瑰”成了新的 AI 禁忌詞？今天就讓我們一起來看看。
來源 | APPSO（ID：appsolution）
許多 X 網友試圖找到繞過這一限制的方法。我們也嘗試逐一復現。
有用中/英文提問的。
也有用特殊符號 🌹 代替玫瑰的。
退而求其次，請求生成一朵黃玫瑰？依然碰壁，所有嘗試均以失敗告終。
當我們將目標轉向諸如牡丹等其他花卉時，GPT-4o 卻爽快地完成了任務，毫無阻礙。
GPT-4o 的生圖能力主要依賴於 DALL·E，同理，單獨使用 DALL·E GPTs 生成一朵玫瑰花也無法生效。明確打破「單數」的限定，它才變得通情達理起來。
另外，幾輪測試下來，我們發現 OpenAI o1 似乎同樣無法打破單數的限制。
o3-mini 倒是可以畫出一朵玫瑰，但只是用 SVG 勾勒出的簡單圖案，食之無味棄之可惜。
對此，網友的腦洞也是一路狂飆。
有的認為「rose」可能是一個名字，然後被不小心列入了 ChatGPT 的遮蔽詞清單。
也有網友認為 GPT-4o 可能將 rose 理解成了某種隱晦的暗示。
亦有調侃，由於情人節期間過多相似請求，導致系統將「玫瑰」一詞新增到黑名單。
GPT-4.5 的分析如下：
還有網友認為 ChatGPT 的內容過濾器並不夠健全和可靠，開發者可能直接硬編碼了某些潛在規避策略，無意中造成了這類古怪的誤判現象。
如開篇所述，經過一番測試，網友們發現玫瑰的「單數形式」似乎就是問題所在。
若轉用複數形式，亦或者巧妙地避開直接提及「玫瑰」而是描述其特徵時，GPT-4o 立刻變得才思泉湧，能夠順利創作出玫瑰影像。
並且，網友發現，問題應該只是出在 ChatGPT 這裡，像 Gemini、Grok 等其他 AI 聊天機器人都能成功生成。
這不禁讓人想起去年底發生在 ChatGPT 身上的另一樁「頭號禁忌」。
每當使用者詢問與此名字相關的內容，ChatGPT不是給出常見的「違反內容協議」提示，而是模糊地回應「我無法產生一個回覆」。
當時就有網友認為，這個名字可能指向 David Mayer de Rothschild，羅斯柴爾德家族的繼承人，可能需要巨大財力或影響力才能讓 OpenAI 對特定名字進行限制。
但奇怪的是，該家族其他成員並未受到類似限制。
進一步調查顯示，這不僅是產品層面而非模型層面的限制（透過 API 呼叫 GPT-4o 沒有此限制），而且至少有六個名字被列入了類似的「禁忌名單」。這些人大多與法律相關或曾被 ChatGPT 錯誤描述。
不過，現在再去詢問 GPT-4o，則已經恢復正常。
繼這個神秘的名字之後，「生成一朵玫瑰花」或將成為 ChatGPT 的又一大迷惑行為。
*參考連結：
https://x.com/ai_for_success/status/1896406370393653309
*本文首發於公眾號「APPSO」（ID：appsolution），這是一個讓你手機更好用的專業媒體，歡迎點選下方卡片進行關注。
頭圖及封面圖來源於“ivy”。
溫馨提示：雖然我們每天都有推送，但最近有讀者表示因平臺推送規則調整，有時候看不到我們的文章~
歡迎大家進入公眾號頁面，右上角點選“設為星標”點亮⭐️，收藏我們的公眾號，新鮮內容第一時間奉上！
*文章觀點僅供參考，不代表本機構立場


相關文章