海歸學者發起的公益學術平臺
分享資訊,整合資源
交流學術,偶爾風月

電話詐騙背後往往是有組織的龐大犯罪集團。數以億計的詐騙電話無孔不入,將它們的罪惡觸角延伸至每一個潛在的受害者神邊。如今,澳大利亞的研究人員開發了一種專門“欺騙”騙子的AI,它們會扮演受害者與騙子對話。澳大利亞反詐機構希望這一AI能夠擊碎詐騙集團的犯罪模式。

圖片來源:Sora Shimazaki
場景一:
“您好,您近期的航班因為航線調整而取消。我司正在為您安排限時理賠,請問您有時間配合我們處理一下嗎?”
“你說的是哪趟航班?”
場景二:
“先生打擾,您最近購買的一件商品因為無貨而被髮起退款,請問您有時間驗證一下您的銀行賬戶嗎?”
“啊?我不記得我賣什麼東西了啊?”
“也許是您的子女買的。”
這是兩個詐騙電話。或許有人能敏銳地識破他們的行騙話術,緊接著明智地掛掉電話。但是這樣的詐騙電話以量取勝,每天難以計數的詐騙電話像無數顆定位導彈鑽進人們的手機,伏下一個個陷阱,尋找大意的受害者。
但上面這兩通電話又有不同。因為接電話的“受害者”都是AI,而騙子們全然沒有發現。
澳大利亞麥考瑞大學的網路安全專家Dali Kaafar教授,開發了一種新型的防詐騙人工智慧技術,名為Apate,該名字取自希臘神話中的欺騙女神。在上述兩個詐騙電話中,Apate生成的AI角色跟行騙者打了四十分鐘以上的電話。騙子在使盡渾身解數誘使受害者上鉤時,完全沒能識破“受害者”的真實身份其實是一個AI 。
Kaafar對此感到欣慰。他解釋說,Apate就像一個個捕蠅籠,將騙子珍貴的“人力成本”套住,從而大大降低他們的行騙效率。

Dali Kaafar教授
圖片來源:Mike Bowers/The Guardian
電話詐騙在澳大利亞氾濫多時。自2020年12月以來,澳大利亞電信公司已攔截了近20億個詐騙電話。但這並不能真正有效地阻止騙子。他們需要做的只不過是再撥通另一個號碼。
如今,Kaafar的團隊得到了澳大利亞國家情報辦公室約72萬美元的資助,Apate現在部署了將近數十萬個“受害者聊天機器人”。它們有著不同“年齡”區段,帶有各種不同的口音,還擁有鮮明的個性,能夠根據不同情緒、性格作出不同反應。電話那頭的它們有時顯得天真好騙,有時顯得狐疑滿腹,有時則顯得急躁而不耐煩。
總之,一旦電信公司發現了電話詐騙,就會將行騙者轉接到Apate 系統,然後AI就會和騙子一直聊下去。
Apate會測試不同的策略,以瞭解哪些談話方式更為有效,能夠確保將騙子留住更長時間。透過大量的訓練,Apate不斷微調說話方式,它進步得非常快。
並且,和騙子的大量溝通,也為反詐機構提供海量資料,幫助分析騙子的行為模式。比如,騙子都在哪些時間進行詐騙,都在通話過程中使用何種話術,想要套取受害者什麼資訊。收集到這些情報後,反詐機構就能對詐騙進行更好的預警和處理。

圖片來源:Leeloo The First
澳洲警方認為,一些超大型、經濟規模達數十億美元的犯罪組織掌握著這種貽害無窮的詐騙電話網路。Kaafar希望能夠藉助Apate徹底打破他們的電詐犯罪模式。
Kaafar 說:“我們談論的是真正的罪犯。他們讓人們陷入不幸,是人們切實面臨的風險。多少人畢生積蓄毀於一旦,在重重債務與屈辱懊悔中墜落人生低谷。”
新南威爾士大學網路犯罪學教授Richard Buckland指出,分寸恰當地反詐並不容易。過去一些反詐措施等同於對騙子進行釣魚執法,然而這麼做會產生許多問題。
首先,在電詐網路底層打詐騙電話的人,並非犯罪網路的元兇巨惡。他們每天從事著大量機械性質的工作,詐騙所得的絕大部分資金也沒有進他們的口袋。某種意義上,他們也是被壓榨的一部分。對這些人進行釣魚執法,即便成功,也不會撼動犯罪網路的根本。
其次,釣魚執法在法律上也是有風險的,騙子在抓住這一把柄後,很多時候會讓反詐機構自身陷入被動之中。
而Apate的做法是近乎無懈可擊的。它並不存在釣魚執法的行為,它只是把騙子吸引住,並向他們學習詐騙話術。
但Buckland仍然提醒道,這樣的技術也可能被騙子所利用。在未來,詐騙集團和反詐機構很可能在人工智慧的戰場上還有一番角逐。這並非沒根據的推測。因為此前,詐騙集團就專門冒充澳大利亞國家反詐騙中心 (NASC)給受害者打電話,從而實施詐騙。
魔高一尺,道高一丈。詐騙集團和反詐機構的較量從未停息。
