DeepSeek又惹禍了?畫面不敢想

1245個字 閱讀時長:3分鐘
中產先生 | 洞見時代 發現價值 講述生活
防不勝防。
最近,都在傳DeepSeek給王一博道歉,因為它錯誤的把王一博聯絡到不久之前的李愛慶事件。
媒體大肆報道之後,發現這個道歉也是假的。
在AI造假和演算法推薦的效率之下,媒體資訊不斷被汙染,沒有真實可言了
我們都知道AI造假的原因有兩個:
1、AI幻覺問題
它經常會主動編造一些事實來迎合提問者的偏好。
這一點,會被有心者故意利用,來編造各種情節離奇的謠言。
這些人膽子大到什麼地步呢?
編造明星的離奇情節還不夠,甚至編造涉政涉軍的謠言
今年以來流傳比較廣的AI謠言就有:
涉及腐敗的:某官員把黃金澆鑄成飛機螺旋槳葉片。
涉及晶片的:深圳華強北地下倉庫直接以或換貨。
涉及關稅的:墨西哥邊境無數架無人機低空走私。
……
總結起來就一句話:
要多離奇多離奇,要多狗血多狗血,現在大家不關心真假,只在乎情緒和流量
營銷號正是抓住了這個趨勢。
2、給AI喂假料
這次王一博的事件,就是不懷好意者給AI喂假聊的結果。
現在給AI喂假料太容易,AI基本沒有辨別的能力,只有梳理羅列的功能,到時候再因為幻覺問題嚴重,就可能直接誤導使用者,甚至成為黑公關的手段。
而且,以飯圈的瘋狂程度:
如果這種操作一旦被普通人知曉,後果不堪設想
明星們是不是要瑟瑟發抖了。
3、社交媒體加持
這還不是最嚇人的:
AI固有的幻覺問題,別有用心的喂假料,再加上社交媒體極致的傳播效率
以後我們將生活在一個什麼資訊環境中,畫面有點不敢想。
這不僅是下沉的問題了,簡直就是糞坑了。
不能在這麼下去了。
必須想一些辦法:
1、AI公司完善技術
DeepSeek的幻覺尤其嚴重,但是國外三家主流的大模型,幻覺問題就沒那麼嚴重,我不想說這是蒸餾的原因,但是需要在邏輯和工程設計上做一些改進了。
2、相關監管要跟上
最近有關部門也在打擊AI傳播虛假資訊,但是整治行動的效率,跟幾乎零成本的造假資訊相比,還是有差距的。
當然,對於一個新興行業,我們一貫的政策是放水養魚,不能監管過嚴,所以只能個人層面加強辨別了。
3、個人層面要注意
現在各種AI功能氾濫,幾乎已經無孔不入,最終會改變所有人的資訊獲取方式和資訊本身。
我的建議是:
對於一些成熟知識性的資訊可以參考,對於即時性的資訊要謹慎對待
AI真是一把雙刃劍,用不好也很嚇人。
就這樣。
下半年有大動作?
這兩天,大家都在討論這個事,甚至今天連相關板塊都漲了,小作文滿天飛:
要有大動作
可以繼續閱讀:下半年有大動作?
喜歡此內容的人還喜歡

有大事公佈

10個朋友讀過 趨勢
傳出重大利好
500個點贊 局勢
有點讓人意外
閱讀10萬+ 深度

相關文章