不知道你最近是否看到過這張圖。
捕捉到外星人全家的影片，在暗網曝光！
一看便是AI合成的假影片。
我是從舅姥爺給我發的微信中看到的。
他說這個重大的新聞你們怎麼沒寫，一點新聞素養都沒有！
我能怎麼辦，我說這是AI合成的。
他不信，說你的嘴能有影片可靠嗎？
反手再甩給我十個“內幕訊息”的文章。
說真的，自從AI突飛猛進，在家族群裡闢謠越來越難。
AI合成的影片，衝浪比較前沿的年輕人能看出奇怪之處。
比如臉突然模糊了，手的位置穿模了，所有人有一種不同於真人的3D感。
可衝浪慢點的老人家，真就傻傻分不清楚。
潮如咱們慶奶，都發出了“我是誰”的問號。
我翻了下賬號裡的AI影片，我是劉曉慶我也迷糊。
仔細瞧也是能瞧出不少端倪。
皮膚光滑的不像真人，聲音沒有明顯的語氣變化。
但足夠騙到不少網友了。
截至被封號，這個賬號只發了9條內容，已經有兩條點贊上萬，最高一條到了7.8萬點贊。
新聞哥都羨慕哭了。
這種程度，指望所有人特別是長輩能識別出真假，不太現實。
需要的是立法加強管控。
雷軍在今年兩會的建議之一，就是加強“AI換臉擬聲”違法侵權重災區治理。
原因無他，AI合成屆最大的頂流和受害者，就是咱們軍兒。
可能是因為雷總聲音實在太有辨識度。
好事者用AI音訊應用克隆，製作了“雷軍語音包”。
下載後就能生成你想說的任何話。
所以你可以發現從去年開始，網上興起了“雷軍罵人”的影片。
影片裡的雷總，語氣溫和但髒話不斷，一口一個老子畜生，問候別人母親。
然後要“遠端控制小米手機自爆”“直接操控小米 su7 撞亖你。”
這些還能勉強劃為惡搞影片的範疇。
但有時候，惡搞滑落成造謠，很簡單。
比如下面這個，用AI合成的雷軍說要給某大學50個億的投資。
不少人聽了都信以為真。
不過說實話，這些影片製作都有點太複雜了。
讓長輩信以為真，不需要那麼高的技術力。
有網友說老爹信誓旦旦告訴他，三星堆挖出了汽車。
證明了咱們幾千年前就進入了工業文明。
他一看，是AI做的青銅汽車。
現在專門用AI做影片的帳號越來越多。
無論是多粗糙多離譜，都有中老年網友深信不疑。
什麼3米高的女人嫁給了1米高的丈夫。
什麼村裡發現了《山海經》裡的白龍。
即使裡面寫了“內容為AI製作，虛構內容謹慎甄別。”
也會有老人家指著影片：這就是真的！
有朋友覺得，與其磨破嘴皮和長輩反覆解釋“這是假的”，搞得大家都不愉快。
不如讓他們想怎麼看就怎麼看，只要不涉及金錢交易，愛信啥信啥。
這樣暫時是輕鬆，可到發展成金錢交易的階段，老頭老太還會聽你勸嗎？
那時候，就真是幾輛馬車都拉不回來了。
還記得幾年前的“假靳東”情感詐騙嗎？
騙子註冊個賬號，用靳東照片搞個PPT，或者電子相簿，再進行配音，說“我愛你”。
大把情感需求不被重視的中老年婦女上當，要給“靳東弟弟”打錢。
現在AI技術升級，精細程度遠超幾年前的粗製濫造。
上當，也就更容易了。
前幾天臺北的一個69歲老太阮女士到銀行取錢，17萬，說要匯給梁朝偉幫他訂酒店。
阮女士說，他和梁朝偉在網上認識，他們經常影片，整夜整夜的聊天，現在已經定下了婚約。
“劉德華也追我了，我都沒理。”
你也能猜到，阮女士說的“梁朝偉”和“劉德華”，都是騙子用AI合成的。
不僅是詐騙，AI謠言還侵入了正經的新聞場景。
前幾天傳的沸沸揚揚鋪天蓋地的一條謠言。
80後死亡率破5.2%，70後死亡率低於更年輕的80後，80後每20人中就有1個人離世。
經過人大教授李婷的溯源，最初來源於一個AI對話的截圖。
AI畫圖，就更是真假難辨了。
半分鐘輸入文字，十秒鐘生成圖片。
不到一分鐘，一個讓西安人心惶惶的“學校著火照片”就出爐了。
又或是混入一片“正能量”之中，用虛假的圖片博取流量和同情。
早在2023年，紹興警方就曾抓獲了一個用AI製作虛假新聞的團伙。
現在這種人越來越多。
AI進步帶來的恐怖生產力，只需要幾十秒就能生成上千條大同小異、做工粗糙的圖片和影片。
網上能輕易搜到很多類似的“起號教程”，操作的簡單程度讓人歎為觀止。
它們被分配到不同的帳號上，最終流向了長輩們的手機。
光靠咱們在家族群裡闢謠，累成客服也不管用。
前幾天六神磊磊很悲觀，寫了一篇《人類可能已錯過自救的時間視窗了》，說藉助智慧傳播手段，聰明的智商已經趕不上蠢壞謠言的影響力。
再看這些謠言，“可能”兩個字是不是多餘了。
只能樂觀點想，也許這場真假博弈或許會催生新的數字文明。
就像當年紙幣對抗假鈔，最終演化出防偽金屬線、光變油墨等精密技術。
以後真實影片，會有獨屬於自己的防偽標誌。
大概在不久的未來，相信，不再是本能。
而是一種需要反覆驗證的技能。
來呀 一起搞事情