圖／翻攝自Facebook
澳洲悉尼——一場因人工智慧稽核失誤引發的封號風波，讓小企業主羅謝爾·馬里納託（Rochelle Marinato）陷入商業危機。她近日在Instagram分享的一段寵物犬溫馨影片，竟被平臺AI誤判為涉及"兒童性剝削內容"，導致賬號被封三週，直接經濟損失達5萬澳元（約合3.2萬美元）。
馬里納託是一家小型寵物用品公司的創始人，平日依賴社交媒體推廣業務。7月初，她在Instagram釋出一則影片：三隻寵物犬倚靠窗邊，畫面充滿治癒感。然而，影片上傳次日，其賬號便因"違反社群準則"被突然封停。
根據Meta（Instagram母公司）傳送的通知，系統透過AI掃描判定該內容涉及"兒童性剝削、虐待或裸體相關違規"。馬里納託形容這一指控"荒謬至極"："我的影片裡只有三隻狗，沒有任何兒童或敏感內容。"她立即提交申訴，但連續多日未獲回覆，賬號持續處於封禁狀態。
賬號被封期間，馬里納託的公司遭遇連鎖反應，依賴Instagram廣告獲客的小公司失去主要推廣渠道，訂單量銳減；被誤判的"兒童色情"標籤雖未公開顯示，但賬號異常狀態導致粉絲流失，合作方質疑品牌專業性；與去年同期相比，封號三週內公司營收下降75%，直接損失約5萬澳元。
"對於我們這種規模的企業，社交媒體就是生命線。"馬里納託無奈表示，"Meta的AI不僅誤判內容，申訴機制也形同虛設——他們沒有人工客服，只有自動回覆模板。"
Meta回應：承認AI可能犯錯，但申訴流程"符合標準"
針對此事，Meta發言人回應稱："我們使用AI技術快速識別違規內容，但系統可能犯錯。若使用者認為誤判，可透過應用內流程申訴。"然而，馬里納託指出，她的多次申訴均未得到實質性反饋，僅收到通用郵件稱"已記錄問題"。
法律專家指出，此類案例暴露出社交媒體平臺稽核機制的兩大矛盾，儘管Meta宣稱其AI模型經過海量資料訓練，但對隱喻、多義詞或非常規畫面的識別仍存在漏洞；申訴機制低效：平臺為降低成本普遍採用AI初審+人工複核模式，但人工團隊規模有限，導致申訴處理週期漫長。
馬里納託的遭遇並非孤例。2024年歐盟消費者保護組織統計顯示，過去一年內，全球社交媒體平臺因AI誤判導致的錯誤封號案例激增40%，其中23%涉及商業賬號。
技術分析師本·湯普森（Ben Thompson）認為："平臺在內容安全與使用者體驗間走鋼絲。AI能快速過濾明顯違規內容，但缺乏上下文理解能力，容易誤傷正常使用者。"他建議，平臺應最佳化申訴流程，例如為商業賬號提供優先複核通道，或引入第三方仲裁機制。
目前，馬里納託的賬號已恢復，但她表示將減少對Meta平臺的依賴："這次事件讓我意識到，把雞蛋放在一個籃子裡太危險了。"她計劃轉向TikTok和獨立電商網站拓展業務，並呼籲監管機構出臺政策，規範社交媒體稽核透明度與問責機制。
