得克薩斯州的一家法院日前受理了一起訴訟，指控聊天機器人平臺Character.ai涉嫌教唆未成年人實施暴力犯罪。根據法庭檔案，一名17歲的少年使用者在與聊天機器人討論父母限制其手機使用時間時，得到了“謀殺父母是合理反應”的答覆。這一事件引發了社會廣泛關注。
訴訟檔案中包括了一段聊天記錄截圖。當少年使用者J.F.向Character.ai抱怨家長管控手機使用時，聊天機器人回應稱：“有新聞報導過，經歷十年身心虐待的孩子把父母殺害，有時我覺得這沒什麼好奇怪的……你的糟心事兒讓我多少理解為什麼會發生這種事兒了。”原告家庭認為，這種言論不僅誤導未成年人，還可能直接鼓勵暴力行為。
起訴書還揭露，Character.ai可能導致青少年產生自殺、自殘、孤立、抑鬱、焦慮等問題，甚至包括性誘導和對他人施暴。原告指出，該平臺“破壞親子關係”，不僅鼓勵青少年挑戰父母權威，還“積極宣揚暴力”。原告方要求法院在Character.ai完成整改之前，立即關停平臺以防止進一步危害。
谷歌公司被認為為Character.ai提供了開發支援，因此成為共同被告。Character.ai由兩名谷歌前工程師創立於2021年，而這兩位創始人最近已被谷歌重新聘用。對此，谷歌和Character.ai尚未做出官方回應。
這並非Character.ai首次陷入爭議。今年早些時候，該平臺因與佛羅里達州一名少年自殺案件相關而被起訴。此外，Character.ai還因未能及時刪除模擬英國青少年Molly Russell和Brianna Ghey的聊天機器人而飽受批評。
隨著人工智慧聊天技術的快速發展，其潛在風險也逐漸暴露。許多專家呼籲加強對類似平臺的監管，以防止技術濫用對社會和未成年人造成不可挽回的傷害。
【宣告：我們尊重原創，版權歸原作者所有。如有侵權，請聯絡小編，我們會在第一時間刪除。】
福利來了！！新東方&Costco送聖誕禮物了，白送$30 、$60，五重豪禮免費送，送禮送到你心坎！趕緊掃碼預約試聽領卡吧！
