在人工智慧快速發展的浪潮中，大模型的研發與應用正以前所未有的速度重塑技術格局，推動著創新的邊界不斷拓展。然而，強大技術的背後同樣伴隨著巨大的責任，這使得深入探討這些先進技術的安全性與倫理問題變得尤為重要。如何在享受大模型帶來的技術紅利的同時，確保其安全性、公平性以及可控性，已成為學術界、產業界和政策制定者共同關注的焦點。

為應對這一關鍵挑戰，第二屆大模型安全研討會（Large Model Safety Workshop 2025）來了，專為人工智慧領域的專業人士、研究學者及技術從業者打造。本次研討會將深入剖析大模型帶來的安全風險與機遇，重點探討新型攻擊方式、風險緩解策略及倫理準則，以推動大模型在各領域的安全應用與可持續發展。

本次研討會將於2025年4月23日在新加坡JW萬豪酒店（JW Marriott South Beach）舉行，由新加坡管理大學（Singapore Management University, SMU）孫軍教授主辦。

研討會致力於探索與大模型安全相關的核心議題，從技術原理、對抗性攻擊、內容安全到資料隱私、倫理規範及大模型治理，全面解讀大模型所面臨的挑戰和潛在風險。

研討會邀請到了來自斯坦福大學、蒙特利爾大學、加州大學伯克利分校以及德國CISPA研究中心等全球頂尖學府的多位傑出學者，包括圖靈獎得主Yoshua Bengio教授、馮諾依曼獎得主Christopher D. Manning教授以及“計算機安全教母”Dawn Song教授等。

他們將圍繞大模型在內容安全、資料安全、對抗攻擊防禦、風險緩解策略以及倫理治理等方面的最新研究成果展開深入討論。此外，研討會還將邀請新加坡政府部門的高層領導及相關產業的技術專家，共同探討人工智慧的治理框架、合規要求及安全監管，為構建全球大模型安全生態提供新的思路和方向。

整個研討會將由九場高水平的專家演講以及一場深度圓桌討論組成，為參會者提供一個兼具學術深度和產業前瞻性的交流平臺。無論你是經驗豐富的人工智慧從業者，還是剛剛進入大模型領域的探索者，本次研討會都將提供寶貴的洞見，幫助你在大模型時代的變革中，平衡創新與安全，確保技術發展符合倫理規範和社會責任。本次研討會不僅是亞太地區難得一見的大模型安全峰會，更將在全球範圍內推動對大模型安全的深入研究，也將為行業標準的制定和未來技術的發展提供關鍵參考。我們期待與你共同探討大模型安全的未來，共同推動人工智慧技術的健康、可持續發展。

Maksym Andriushchenko現任瑞士洛桑聯邦理工學院博士後研究員，同時是歐洲人工智慧實驗室聯盟成員，研究方向涵蓋人工智慧安全、模型穩健性與泛化能力。他於2024年在EPFL獲得機器學習博士學位，導師為Nicolas Flammarion教授。其博士論文因卓越貢獻榮獲Patrick Denantes紀念獎，並獲得Google博士獎學金和Open Phil AI博士獎學金的資助。

Maksym在人工智慧安全領域與多個頂尖研究機構和行業領導者保持緊密合作，包括OpenAI、Anthropic、英國人工智慧安全研究所和人工智慧安全中心。他的研究在工業界同樣備受認可，其團隊的多項成果已被官方採納並用於大語言模型的預部署測試。此外，他還作為獨立貢獻者參與了OpenAI模型與服務的紅隊測試，並透過Gray Swan AI參與Anthropic的安全測試工作。

Mohit Bansal現任北卡羅來納大學教堂山分校計算機科學系John R. & Louise S. Parker傑出教授，並擔任MURGe-Lab（UNC-NLP Group）主任。他的研究方向涵蓋自然語言處理和多模態機器學習，特別關注多模態生成模型、具身語義與推理、智慧規劃代理、可信賴語言生成，以及可解釋、高效、可泛化的深度學習。

Bansal教授於2013年在加州大學伯克利分校獲得博士學位，師從Dan Klein教授，此前曾於2008年在印度理工學院坎普爾分校獲得學士學位。他在人工智慧和自然語言處理領域的貢獻備受認可，並獲得多項國際榮譽，包括AAAI Fellow，美國總統科學與工程青年獎，IIT Kanpur傑出青年校友獎，DARPA主任獎學金，NSF CAREER獎，Google重點研究獎，Microsoft Investigator Fellowship，美國陸軍青年研究員獎，DARPA青年教授獎，以及在ACL、CVPR、EACL、COLING、CoNLL 和 TMLR等頂級會議的最佳論文獎。他還曾在AACL 2023、CoNLL 2023 和 INLG 2022擔任大會特邀主旨演講人。Bansal教授在學術服務方面也貢獻卓越，曾擔任EMNLP和CoNLL會議程式聯合主席，ACL執行委員會成員，ACM博士論文獎評審委員會成員，ACL美洲區贊助聯合主席，並擔任TACL、CL、IEEE/ACM TASLP和CSL等頂級期刊的副主編或責任編輯。

Yoshua Bengio現任蒙特利爾大學終身教授，Mila—魁北克人工智慧研究所的創始人兼科學主任，是全球公認的人工智慧領域頂尖專家之一。憑藉其在深度學習領域的開創性貢獻，他榮獲2018年A.M.圖靈獎，這一獎項被譽為“計算機科學的諾貝爾獎”。

Bengio教授的研究影響深遠，使其成為全球計算機科學領域引用次數最多、H指數最高的學者之一。2019年，他獲得了加拿大最高科學榮譽之一——基拉姆獎，2022年，他被評為全球被引用次數最多的計算機科學家。此外，他是倫敦皇家學會和加拿大皇家學會院士，並獲頒法國榮譽軍團騎士勳章和加拿大軍官勳章。自2023年起，他受邀擔任聯合國技術進步科學顧問委員會成員，並出任加拿大高階研究院人工智慧主席。2024年，他被《時代》週刊評選為全球最具影響力的100人之一。

Bo Li現任伊利諾伊大學厄巴納-香檳分校計算機科學系副教授，其研究專注於可信機器學習，涵蓋機器學習、安全、隱私和博弈論交叉領域，兼顧理論基礎與實際應用。她致力於設計可擴充套件的穩健學習框架以及隱私保護資料釋出系統，推動AI可信性的發展。Bo Li教授的學術成就備受認可，榮獲多項國際重量級獎項，包括IJCAI Computers and Thought Award、Alfred P. Sloan Research Fellowship、NSF CAREER Award、MIT Technology Review TR-35 Award以及AI’s 10 to Watch等。

此外，她還獲得Dean’s Award for Excellence in Research、C.W. Gear Outstanding Faculty Award、Intel Rising Star Award、Symantec Research Labs Fellowship及Rising Stars in EECS 等榮譽，並在 Amazon、Meta、Google、Intel、Microsoft Research、eBay 和 IBM 等科技公司獲得多項研究資助。她的論文在機器學習與安全領域的頂級會議上多次榮獲最佳論文獎。Bo Li 教授的研究不僅具有深遠的學術影響，還被Nature、Wired、Fortune和紐約時報等知名媒體廣泛報道，充分展現了其在可信人工智慧領域的前沿貢獻。

Christopher Manning現任斯坦福大學Thomas M. Siebel機器學習講席教授，隸屬於語言學系與計算機科學系，同時擔任斯坦福人工智慧實驗室主任以及斯坦福以人為本人工智慧研究院副主任。他是自然語言處理和機器學習領域的國際領軍人物，在深度學習自然語言理解、推理、神經機器翻譯、文字摘要、依存句法分析、問答系統等多個方向上做出了開創性貢獻。

自2010年起，Manning教授率先將深度學習應用於自然語言理解和推理，其研究涵蓋情感分析、釋義檢測、GloVe詞向量模型、注意力機制、神經機器翻譯、自監督預訓練、樹遞迴神經網路、機器推理等方向，並兩次榮獲ACL時間檢驗獎。他在2024年因其卓越貢獻獲得IEEE馮·諾依曼獎章。此前，他曾引領統計與機率方法在自然語言處理、計算語言學和語言理解中的應用，在自然語言推理、句法分析、機器翻譯、多語言處理方面構建了理論體系與實踐系統，並在ACL、COLING、EMNLP和CHI等頂級會議上榮獲最佳論文獎。

在自然語言處理教育方面，Manning教授合著了統計自然語言處理和資訊檢索領域的奠基性教材。他的CS224N《深度學習自然語言處理》線上課程已被數十萬學習者觀看，成為自然語言處理領域的重要教學資源。在語言學研究中，他是 Stanford Dependencies 和 Universal Dependencies的核心開發者，並撰寫了及物性（Ergativity）和複合謂詞（Complex Predicates）方面的專著。此外，他創立了斯坦福自然語言處理研究組（@stanfordnlp），是自然語言處理領域最早推動開源軟體發展的學者之一，主導開發了Stanford CoreNLP 和Stanza。Manning教授是 ACM Fellow、AAAI Fellow和ACL Fellow，並曾於2015年擔任ACL（計算語言學協會）主席。他於澳大利亞國立大學 獲得學士學位（榮譽），並於1994年在斯坦福大學獲得博士學位，後於2023年獲阿姆斯特丹大學（University of Amsterdam）榮譽博士學位。在回到斯坦福大學之前，他曾在卡內基梅隆大學和悉尼大學擔任教職。

Gagandeep Singh現任伊利諾伊大學厄巴納-香檳分校計算機科學系助理教授，並領導FOrmally Certified Automation and Learning (FOCAL)實驗室。他的研究重點是將形式邏輯、機器學習和系統研究相結合，以構建具備形式化行為與安全性保證的智慧計算系統，以系統化和理論驅動的方法取代傳統的”It works”經驗主義。

他的研究團隊獲得了NSF CAREER獎、Google Research Scholar獎以及Qualcomm Innovation Fellowship。他於2020年在瑞士聯邦理工學院蘇黎世分校獲得計算機科學博士學位，導師為Markus Püschel 教授和 Martin Vechev教授。在博士期間，他開發了可擴充套件且精確的自動推理方法和工具，適用於程式分析和深度神經網路，並因此榮獲ACM SIGPLAN博士論文獎，該獎項每年頒發給程式語言領域的最佳博士論文。此前，他於2014年在ETH Zurich獲得計算機科學碩士學位，並榮獲ETH Master Medal，於2012年在印度理工學院巴特那分校獲得計算機科學與工程學士學位，並榮獲印度總統金牌獎。

Dawn Song現任加州大學伯克利分校電子工程與計算機科學系教授，被譽為“計算機安全教母”，是全球計算機安全、人工智慧和區塊鏈領域的頂尖學者之一。她是加州大學伯克利分校負責任去中心化智慧研究中心的聯合主任，並活躍於多個前沿研究機構，包括伯克利人工智慧研究實驗室、伯克利深度駕駛實驗室、伯克利人類相容人工智慧中心等。她的研究專注於人工智慧安全、計算機系統安全和區塊鏈安全，涵蓋深度學習的安全性與可解釋性、智慧合約安全、去中心化金融、系統與網路安全等交叉領域，兼顧理論基礎與實際應用。

Dawn Song教授的學術成就備受認可，榮獲多項國際重量級獎項，包括ACM Fellow、IEEE Fellow、MacArthur Fellow、Guggenheim Fellow、Alfred P. Sloan Fellow，以及 ACM SIGSAC傑出創新獎。此外，她還獲得MIT Technology Review TR35、NSF CAREER Award以及 AMiner Most Influential Scholar Award，該獎項表彰她為計算機安全領域最高被引學者。她的研究成果在人工智慧和計算機系統安全領域的頂級會議上屢獲最佳論文獎及時間檢驗獎，包括 NeurIPS、ACM UIST、ACM CCS、IEEE Security & Privacy Symposium、OOPSLA、ISSTA、ICLR、USENIX Security等。

Dawn Song教授的研究不僅推動了學術界的發展，也在工業界、政府機構和全球人工智慧監管政策層面產生了深遠影響。她致力於構建更加安全、公平和負責任的智慧系統，為未來人工智慧的發展奠定堅實的安全與倫理基礎。

Xin (Eric) Wang現任加州大學聖克魯茲分校計算機科學與工程系助理教授，同時擔任Simular研究主管。他的研究興趣涵蓋自然語言處理、計算機視覺和機器學習，重點關注多模態人工智慧、生成式人工智慧和具身智慧。他曾在Google Research、Facebook AI Research、Microsoft Research 和 Adobe Research 任職，並在多個國際頂級會議中擔任重要學術職務，包括 ACL、NAACL、EMNLP、ICLR和NeurIPS的領域主席，以及AAAI和IJCAI的高階程式委員會成員。

此外，他還在ACL、NAACL、CVPR和ICCV等會議組織過多個研討會和教程，為推動人工智慧領域的學術交流和技術發展做出重要貢獻。Xin (Eric) Wang教授的研究成果廣受認可，榮獲多項國際獎項，包括CVPR最佳學生論文獎、Google Research Faculty Award、Amazon Alexa Prize Awards、Cisco Research Award、eBay Research Awards，以及Adobe、Snap、Microsoft和Cybever等公司的多項研究資助。

Yang Zhang現任CISPA亥姆霍茲資訊安全中心終身教員（相當於終身教授），其研究方向涵蓋可信賴機器學習、安全與隱私、社交網路分析，特別關注大型語言模型的安全性、隱私性與可靠性，以及虛假資訊、仇恨言論和模因的檢測。他於2016年在盧森堡大學獲得博士學位，隨後加入CISPA並長期從事人工智慧安全與社交計算的研究工作。他的學術貢獻備受認可，曾榮獲多項國際頂級會議獎項，包括NDSS傑出論文獎（2019）、CCS最佳論文榮譽提名（2022）、ARES最佳論文獎（2014），並連續兩年（2023、2024）入圍CSAW Europe最佳論文決賽。此外，他在教學方面亦表現卓越，多次獲得Saarland University “Busy Beaver”教學獎提名和榮譽，以表彰他在機器學習隱私課程中的卓越貢獻。

本次研討會將在新加坡JW萬豪大宴會廳（The Grand Ballroom, JW Marriott South Beach）舉行。