九號臺新聞報道稱，走越來越多的澳洲企業開始使用AI提高工作效率，但大部分人並未意識到使用AI的潛在風險。
墨爾本某清潔公司的主管就表示，AI生成的郵件錯誤百出，讓他們損失了一大筆錢。
Google與IPSOS在今年1月的調查顯示，幾乎半數澳人在使用生成式AI，其中近75%的人表示會在工作中使用AI。
與此同時，HR平臺Workday的調查也顯示，大約65%的澳洲員工確認僱主已在工作場所引入了AI。
然而，即便是簡單到發一封商務郵件，使用生成式AI也可能帶來意想不到的後果。
(圖片來源:澳洲九號臺新聞)
墨爾本End Of Lease Cleaning的主管Michael就有過一次慘痛的教訓，一封簡單的商務郵件讓他損失了2000澳元。
為了提高效率，Michael的團隊開始使用生成式AI工具以縮短回覆客戶郵件的時間，從原來的大約5小時縮短到1小時左右。
為節省時間，Michael的團隊不再手動填寫清潔服務的列表。
相反，他們輸入客戶所需服務的提示，讓AI生成一封詳細列出服務內容、費用和報價的郵件。
(圖片來源:澳洲九號臺新聞)
雖然AI讓回覆時間大幅縮短，但Michael表示這一工具這並不完美。
有幾次，AI錯誤地將“區域性牆面清潔”列為“全面牆面清潔”，這意味著Michael及其團隊不得不以低得多的價格，提供價值500到700澳元的全面牆面清潔服務，這讓他們損失了大量收入。
最後一根稻草出現在今年3月，當時，Michael用AI為一個需要約2000澳元的清潔服務生成報價郵件，他草草檢查了一下便將郵件便發給客戶。
直到一週後，Michael才發現郵件中充滿錯誤。
而此時，客戶已經選擇了其他公司。
Michael表示，“AI讓我們虧了不少錢”。
（圖片來源:網路)
澳洲九號臺新聞報道稱，Michael並不是唯一一個因AI出錯而付出代價的澳洲員工。
其他受訪者向9News透露，AI曾在郵件中錯誤地稱呼客戶或同事的名字及頭銜，直接對工作產生負面影響。
但使用AI辦公的風險遠不止尷尬的失誤。
Dentons智慧財產權與資訊科技律師RobynChatwood和Michael Park表示，生成式AI工具時常出現“幻覺”，即捏造不準確的事實，這些“幻覺”可能會給員工帶來更大的問題。
此外，AI侵犯版權或錯誤洩露保密資訊的情況也很常見，這在專業環境中可能引發嚴重後果。
Chatwood表示，一旦出現這種情況，員工“仍然負有相應的責任和義務”，“你不能僅僅歸咎於AI出錯，因為你本該檢查的”。
(圖片來源:網路)
Park警告稱，澳洲員工保護自己免受此類錯誤影響的最佳方式，便是遵循僱主的AI使用政策，“如果公司的規定說不要用，那就絕對不要用，這是在保護自己避免那些可能出現的麻煩”。
當失去價值2000澳元的訂單後，Michael及其團隊已經停止在任何商務通訊中使用AI。
即便這意味著郵件回覆需要5小時，但他們覺得這好過因AI的錯誤而虧錢。
Michael表示:“如果你在使用AI，一定要在傳送郵件之前檢查兩到三遍內容。”