來源：隱私護衛隊
僅供學習，如有侵權，請聯絡刪除！
當地時間5月19日，義大利資料監管機構（Guarantor for the Protection of Personal Data，GPDP）宣佈，因違法開展使用者資料處理活動以及未落實未成年人特殊保護要求等，將對人工智慧聊天機器人Replika的開發公司Luka Inc.處以500萬歐元罰款（摺合人民幣約4100萬元）。目前Replika暫未對此作出回應。
圖片源自Luka
公開資訊顯示，Replika是一款2016年推出的AI陪伴產品，其透過生成式AI技術模擬使用者語言習慣，透過文字和語音互動形式提供情感陪伴服務。2024年8月，Replika執行長Kuyda 報告稱，該產品使用者總數已超過3000萬。
2023年2月，GPDP以Replika為兒童帶來特殊風險為由，暫停了Replika 在該國的服務。經過兩年多的調查，近日宣佈處罰結果。
GPDP認定，Replika在處理使用者資料時缺乏相關法律依據；違反公開透明原則，在隱私政策中未詳細披露大模型開發目的，訓練資料型別、使用規則以及儲存期限等。另外，儘管在隱私政策中明確了其服務不提供給13歲以下人士使用，但Replika未設定任何有效的使用者年齡驗證機制，未成年人可以透過填寫虛假年齡資訊繞開限制，繼續享受服務。
值得注意的是，在處理該案的同時，GPDP還宣佈了一項單獨調查，核實Replika在提供AI陪伴服務過程中開展的個人資料處理活動是否合法。
GPDP要求Luka對支撐Replika的生成人工智慧系統在整個執行週期過程中的資料處理行為作出澄清。具體包括提供有關該產品的風險評估資訊，在開發和訓練該語言模型時為保護使用者資料而採取的措施，處理的個人資料型別，以及是否採取了匿名化措施等等內容。
南都記者梳理發現，近年來，GPDP高度重視對AI產品的監管。去年12月，GPDP對OpenAI處以1500萬歐元罰款，原因是OpenAI在沒有充分法律依據的情況下，使用使用者個人資料來訓練ChatGPT，違反了透明度原則以及使用者資料保護義務。
今年初，DeepSeek在海內外爆火。GPDP以擔憂義大利使用者的資料安全為由，要求DeepSeek公司說明使用者資料處理情況。不久，DeepSeek從義大利地區蘋果App Store和谷歌Play Store下架。2023年3月，GPDP曾禁止使用ChatGPT，並限制OpenAI處理該國使用者資訊，義大利一時成為全球首個停用該軟體的國家。
如需何談系列回放及課件請加入“何淵講AI”會員
