AI寫郵件漏洞百出,澳企損失慘重!專家警告:AI錯誤,損失或由員工承擔

據報道,澳洲越來越多企業開始引入人工智慧(AI)進入工作場所,然而數百萬打工人可能在沒有充分認識到潛在風險的情況下就開始使用這些工具。

谷歌與IPSOS在1月聯合開展的調查顯示,近半數澳大利亞人使用生成式AI,其中75%將其用於工作場景。
與此同時,人力資源平臺Workday的調查表明,約65%的澳洲員工確認僱主已在職場引入AI技術。
墨爾本清潔公司老闆Michael(應受訪者要求隱去姓氏)向9news講述了團隊使用AI撰寫客戶報價郵件的經歷。
“我們原本想透過AI節省手工編寫清潔服務清單的時間,”他解釋道。
團隊只需輸入客戶需求指令,AI工具就能自動生成包含服務內容、費用和報價的郵件。
雖然該工具將響應時間縮短至1小時,但Michael承認存在缺陷。
AI曾多次將“區域性牆面清潔”誤列為“全牆面清潔”,卻未相應調整更高費用的報價,導致公司不得不以低價提供價值500-700澳元的全套服務,累計損失數百澳元。
今年3月,Michael使用AI為需要約2000澳元的深度清潔服務生成報價郵件,在快速瀏覽後便傳送給客戶。
一週後他發現郵件存在多處錯誤時,客戶已轉向其他公司。
“我們損失相當慘重,”Michael表示。

這並非個例。其他受訪者向9news反映,AI在商務郵件中錯誤稱呼客戶及同事姓名職位,危及商機和工作關係。
但Dentons律師事務所智慧財產權與資訊科技律師Robyn Chatwood和Michael Park指出,AI的風險遠不止於尷尬失誤。
生成式AI存在編造不實資訊的現象,若被納入專業信函將引發更多問題。
此外,AI工具侵犯版權或誤洩機密的情況也時有發生,這在職場可能造成嚴重後果。
Chatwood強調:“員工仍需承擔相應責任,不能簡單歸咎於機器的錯誤,因為員工本應進行核查。”
Park建議澳洲職場人士嚴格遵守僱主的AI使用政策以規避風險。
“若政策明令禁止,無論AI多麼高效都不可越界,這是在保護自己免於陷入麻煩。”
對於尚無AI政策的小企業主,他建議採取保守策略。
經歷2000澳元訂單損失後,Michael團隊已全面停止在商務信函中使用生成式AI。
儘管響應時間重回5小時水平,但相比AI造成的昂貴錯誤,這仍是更穩妥的選擇。
“如果使用AI,務必在傳送前反覆檢查郵件內容,”他總結道。
編譯:Kitty
來源:9news

以上為正文內容
↓關注悉尼見聞,看見不一樣的澳洲↓

↑ 滑 動 查 看 更 多圖 片,掃碼觀看↑

點選此處“閱讀全文”,下載澳洲印象APP


相關文章