2023
新技術追蹤
BUSINESS
22字宣告，350人簽名
文| VickyXiao Juny 編輯| VickyXiao
自從生成式AI以勢如破竹的速度席捲幾乎每一個領域，AI挑戰人類的擔憂也越來越真實。
上次，馬斯克就人工智慧研究界和產業界的大佬們一起釋出了一篇呼籲暫停半年AI大模型訓練、加強AI技術監管的公開信，呼籲全球所有實驗室暫停比更強的AI模型研發，暫停時間至少為6個月。但結果被人扒出其實他為Twitter購買了1萬個GPU用於推進一個全新的AI專案，極有可能正在開發自家的大語言模型。
但這一次，又一封呼籲人們要重視AI帶來威脅的公開信又發出。比上一次更引人注目的是，目前生成式AI領域鼎立的三大巨頭： OpenAI 、DeepMind（隸屬於Google）、Anthropic都加入其中。
22字宣告，350人簽名
這份宣告由總部位於舊金山的非營利組織AI安全中心釋出，就他們認為AI對人類構成的生存威脅發出了新的警告。整份宣告才22個字——對，你沒看錯，才22個字，全部內容如下：
儘管AI威脅論並不新鮮，但如此直白地把它和“核戰爭”、“大流行病”等危害全體人類的危機因素列在一起公開作比較，還是屬於首次。
宣告的署名部分比宣告的內容長得多。
除去OpenAI執行長Sam Altman、DeepMind執行長Demis Hassabis和Anthropic執行長Dario Amode以外，超過350名頂級AI研究人員、工程師和創業者也加入其中，包括曾經獲得圖靈獎的“AI三巨頭”之二Geoffrey Hinton和 Yoshua Bengio，但另一位和他們一起獲獎的、現任Facebook母公司Meta首席 AI 科學家的Yann LeCun尚未簽名。
此外，名單裡還出現了中國學者的身影，包括中國科學院的自動化研究所人工智慧倫理與治理研究中心主任曾毅，清華大學副教授詹仙園等。
完整簽名名單，可以在這裡進行檢視：https://www.safe.ai/statement-on-ai-risk#open-letter
聲明發布者AI安全中心的執行主任Hendrycks表示，這一份宣告很簡潔，特意沒有提出任何減輕人工智慧威脅的潛在方法，就是為了避免分歧。“我們不想推動包含30種潛在干預措施的龐大措施組合，”Hendrycks說。“當這種情況發生時，它會淡化資訊。”
馬斯克公開信的加強版
這封公開信可以看做是今年早些時候馬斯克公開信的加強版和“清白版”。
此前，馬斯克聯合超過千名產業界和學術界的大佬們在“生命未來研究所（Future of Life Institute）”網站上釋出聯名公告。公開信中主要傳達了兩個方面的資訊：一是警告人工智慧存在對人類社會的潛在威脅，要求立刻暫停任何比GPT-4更強大的人工智慧系統的訓練，時間跨度至少6個月。二是呼籲整個人工智慧領域以及政策制定者們，要共同設計一套全面的人工智慧治理系統，對人工智慧技術的發展進行監督和審查。
這封信當時在多個層面受到批評。不僅因為馬斯克被爆出“不講武德”，一邊公開呼籲暫停AI研究，一邊偷偷推進一個全新的AI專案，並挖走了一些Google和OpenAI的技術人才，還因為“暫停開發”的建議並不可行，而且也並不能解決問題。
比如當年跟Yoshua Bengio一起獲得圖靈獎，人工智慧“三巨頭”之一的Yann LeCun當時就明確表示他並不同意這封信的觀點，也沒有簽名。
不過，此次這封全新的更為含糊的公開信，Yann LeCun同樣沒有簽名。
人工智慧領域的著名學者、Landing AI的創始人吳恩達當時也在LinkedIn上發文表示，認為全面暫停AI訓練6個月的想法是一個糟糕、不切實際的想法。
他表示能夠真正讓整個行業都暫停研究AI訓練的唯一辦法是政府的介入，但讓政府暫停他們不瞭解的新興技術是反競爭的，顯然也不是一個很好的解決辦法。他承認負責任的AI很重要、AI確實也有風險，但一刀切的方式不可取。當前更重要的是各方要在發展AI技術的同時更多的投資於人工智慧的安全領域，並且配合制定圍繞透明度和審計的法規。
Sam Altman更是在接受美國國會質詢的時候就直接表示，馬斯克這個呼籲的框架是錯誤的，日期上的暫停毫無意義。“我們暫停6個月，然後呢？我們再暫停6個月？”他說。
但和吳恩達一樣，Sam Altman一直也是要求政府加強對AI監管的最積極的呼籲者。
他甚至在聽證會上向美國政府提出了監管建議，要求政府組建一個新的政府機構，負責為大型AI模型頒發許可，如果有公司模型不符合政府標準，該機構可以撤銷該公司的許可證。
上週，他還聯合了另外幾位OpenAI的高管，呼籲建立類似國際原子能機構的國際組織來監管AI，號召國際間領先的人工智慧開發商展開合作。
反對者的聲音
和馬斯克的公開信一樣，這封最新的公開信同樣基於AI系統能力會迅速提高、但人類沒法完全控制其安全執行的假設。
許多專家指出，大型語言模型等系統的迅速改進是可以預見的。一旦人工智慧系統達到一定的複雜程度，人類就可能無法控制它們的行為。來自牛津大學的學者Toby Ord就表示，正如人們希望大煙草公司能夠早一點承認他們的產品會帶來嚴重的健康危害、並開始討論怎麼限制這些危害一樣，現在AI的領袖們正在這麼做。
但也有不少人人懷疑這些預測。他們指出人工智慧系統甚至無法處理相對平凡的任務，例如駕駛汽車等。儘管在這一研究領域付出了多年的努力並投入了數百億美元，但全自動駕駛汽車仍遠未成為現實。懷疑論者說，如果人工智慧連這一挑戰都無法應對，那麼在未來幾年，這項技術有什麼機會造成威脅？
Yann LeCun就在Twitter上表達了對這一擔憂的反對，他表示，超人AI完全不在人類滅絕危機的名單前面——主要因為它現在還不存在。“在我們可以設計出狗這個級別的AI（更不用說人類級別的AI了）之前，討論如何讓它更安全完全為時過早。”
而吳恩達對於AI持有更加樂觀的態度。他稱他眼裡會對大部分人類造成生存危機的因素，包括流行病、氣候變化、小行星等，AI反而會是這些危機的關鍵解決辦法。如果人類想要在未來1000年生存並發展，那就需要讓AI更快發展，而不是更慢。
你怎麼看？歡迎在評論區告訴我們。
*參考資料：
END
喜歡這篇文章？
關注矽星人，帶你用本地視角看矽谷，全球視野看創新