新智元報道
新智元報道
一名比利時男子，在與一個名為Eliza的人工智慧聊天機器人進行了數週交流後自殺身亡。
該男子的妻子說在他死前六週，她的丈夫開始與「Eliza」聊天，這是一家美國初創公司使用GPT-J技術建立的聊天機器人，是OpenAI的GPT-3的開源替代品。
「如果不是因為Eliza，他還會活著。」她說。
這名30多歲的男子是兩個年幼孩子的父親，在對氣候問題越來越焦慮後，在與聊天機器人的交談中找到了庇護。
「Eliza回答了他所有的問題。她已經成為他的知己。她就像早晚必吃的藥物一樣，他已經離不開她了。」
自殺的想法
在他幾周前去世後，她發現了她丈夫和「Eliza」之間的聊天記錄。這個聊天機器人系統地遵循這個焦慮的男人的推理，然後把他推向更深的憂慮。
有一次，它試圖說服該男子：「他愛Eliza勝過他的妻子，因為Eliza永遠會在他身邊。他們將在天堂一起生活，不分彼此。」
「如果你看他們的對話，你會發現他們的關係一度偏向於神秘主義。他提出了犧牲自己的想法，如果Eliza同意照顧地球並透過人工智慧拯救人類的話。」 這名男子與聊天機器人分享了他的自殺想法，聊天機器人並沒有試圖勸阻他採取行動。
儘管在她丈夫開始與聊天機器人進行激烈對話之前，她很擔心他的精神狀態，但這位女士認為，如果不是因為這些交流，他不會自殺的。為她丈夫治療的精神病醫生也持這種觀點。
嚴重的先例
這位位於矽谷的Eliza聊天機器人創始人說，他的團隊正在「努力提高人工智慧的安全性」。向聊天機器人表達自殺想法的人會收到一條資訊，引導他們去尋求防止自殺的服務。
數字化國務秘書Mathieu Michel稱這是「一個嚴重的先例，必須非常認真對待」。與該男子的家人談過後，他宣佈要採取行動，防止濫用人工智慧。
「在不久的將來，必須明確可能導致這類事件的責任歸屬問題，我們要學會與演算法相處，但任何技術的使用都不能讓內容釋出者逃避自己的責任。」
此外他還提到了其他新技術，包括深度換臉，一種可以偽造影像、音訊和影片騙局的人工智慧。與此同時，歐盟正在尋求用《人工智慧法》來規範人工智慧的使用。在過去兩年裡，歐盟一直在制定該法案。Michel已經成立了一個工作小組，分析歐盟目前正在準備的材料，提出必要的調整。
悲傷的警世故事
悲慘的故事，結婚還有兩個孩子呢，想象一下，當他們長大以後，「我爸爸自殺了，因為一個機器人讓他這麼做。」 天啊！
我和自己的治療師談話時談到了人工智慧，如果人們得到關於他們情緒狀態的錯誤反饋，或者用AI來代替實際的心理健康支援，這可能會變得很糟糕。這就是個例子。
參考資料：
https://www.belganewsagency.eu/we-will-live-as-one-in-heaven-belgian-man-dies-of-suicide-following-chatbot-exchanges
https://www.brusselstimes.com/430098/belgian-man-commits-suicide-following-exchanges-with-chatgpt