近日，據外媒訊息，一群活動人士於上週六在美國舊金山集會，成立了名為 “停止人工智慧”（Stop AI）的非暴力公民抵抗組織，旨在阻止人工智慧進一步發展，尤其是針對通用人工智慧（AGI）。OpenAI 將 AGI 定義為在多數經濟價值工作中超越人類的高度自主系統，而該組織認為其影響巨大且危險，希望能徹底禁止。

Stop AI 在其網站上公佈了一系列目標，包括要求政府強制人工智慧公司關停與通用人工智慧模型建立相關的一切工作，銷燬現有模型並永久禁止其開發。不過，他們並非要禁止所有人工智慧，而是僅針對那些威脅人類生存的部分。

在具體行動策略上，Stop AI 主要透過組織抗議活動來擴大影響力。例如，他們在近日又開始“圍攻”OpenAI 位於舊金山的總部進行抗議。此前，該組織已在 OpenAI 辦公室及其他地方舉行過多次抗議活動。其中，兩位聯合創始人 Sam Kirchner 和 Guido Reichstadter，因在去年 10 月封鎖 OpenAI 的入口被捕。

Stop AI 成員 Finn van der Velde——一位具有計算機科學和人工智慧技術背景的安全倡導者及活動人士，表示要阻止 AGI 出現，可能需要一項國際條約，各國共同約定不開發 AGI，這意味著要解散像 OpenAI 這樣以開發 AGI 為目標的公司，同時監管計算能力，防止有人訓練出 AGI 模型。

在抗議活動中，也有人呼籲對 OpenAI 前僱員、侵權舉報人 Sunchir Balaji 的死亡展開進一步調查。

2024 年 11 月，Balaji 被發現死於其位於舊金山的公寓中。但 Balaji 的父母表示，他們不相信兒子是自殺身亡，他們希望外部機構調查兒子的死因。

26 歲的 Balaji 的父母表示，他們仍對兒子的死因存有疑問。他們說，11 月 26 日，Balaji 被發現死在舊金山的公寓裡，身上有疑似槍傷的痕跡。舊金山警方表示，這似乎是一起自殺事件，初步調查中沒有發現謀殺的證據。不過，他的母親說，他的公寓裡有些東西不對勁。

“密碼驅動器不見了。他的電腦壞了。他的臺式電腦已經開著三天了。一切都亂七八糟，”Balaji 的母親普爾尼瑪·拉瑪勞（Poornima Ramarao）說道。

Balaji 於 2020 年開始擔任 OpenAI 研究員，辭職後，他公開聲稱該公司在開發 ChatGPT 時違反了版權法。他的父母說，在他去世前四天，他被傳喚為一起針對 OpenAI 的案件作證。

Stop AI 認為，Balaji 的死亡可能並非自殺而是被殺，被殺的原因就是為了阻止他說出 ChatGPT 版權問題的真相。

Stop AI 提到了對人工智慧巨頭尋求創造“超級智慧”的道德擔憂。

Stop AI 由聯合創始人 Sam Kirchner 和 Guido Reichstadter 領導，目前已經在 OpenAI 辦公室外進行過抗議活動。當地時間週六下午， Stop AI 在科技公司 OpenAI 外舉行示威活動，他們擔心該公司的技術可能會導致 “人類滅絕”。他們設定了一個大膽目標，希望能獲得美國 3.5% 人口（即 1100 萬人）的支援。

Stop AI 的成員來自於計算機、機械和數學相關領域。

創始成員 Sam Kirchner 擁有機械和電氣工程背景，而 Reichstadter 則曾擔任珠寶商 20 年，並獲得了物理和數學學士學位。其他小組成員也有一些技術背景：Finn van der Velde 擁有計算機科學學士學位，具體來說是人工智慧，並離開了拉德堡德大學的人工智慧碩士課程，“以從事人工智慧安全工作”，正如他的 LinkedIn 個人資料所示。Derek Allen 會程式設計。Kirchner 表示，一名兼職小組成員丹尼斯目前正在攻讀人工智慧碩士學位。

他們堅信，人類的思維應當始終處於智慧領域的最前沿。

Stop AI 發起抗議和公民抵抗行動，目的是讓公眾瞭解到，儘管舊金山的人工智慧科技公司承認通用人工智慧存在導致人類滅絕的風險，但仍在推進相關研發。有專家甚至預測，通用人工智慧可能在今年就會問世。他們強調，人工智慧存在極大危險性，所謂的人工智慧安全只是幻想，無法透過實驗證明其不會產生危害人類的想法，這與人類曾經導致其他物種滅絕的情況類似。此外，通用人工智慧還可能對民主制度造成永久性破壞，同時導致大規模失業，使許多人失去生活目標。

對於人工智慧的發展，業內看法不一。部分從事人工智慧工作的人員認為，研發通用人工智慧 / 超級人工智慧（AGI/ASI）可以幫助解決如癌症治療、氣候變化等難題。但 Stop AI 反駁稱，在無法確保其永遠安全、不會危及人類生存的情況下，進行此類研發毫無意義，畢竟從實驗角度證明其安全性是不可能的。

目前，關於通用人工智慧的研發與限制爭議不斷，其未來走向備受社會各界關注。

值得一提的是，截至目前，Stop AI 已經籌集了 6685 美元資金。

“……我們正試圖永久禁止通用人工智慧（AGI）的發展，”Kirchner 在接受 The Register 採訪時表示。“粗略地說，AGI 指的是在所有技術領域都比所有人類專家更強大的系統。”

AI 大神傑弗裡·辛頓 （Geoffrey Hinton）曾預測，未來 20 年內人工智慧超越人類智慧的可能性約為 50%。與其他人工智慧反對者一樣，Kirchner 也擔心人類會失去控制。

Kirchner 對人工智慧發展的擔憂並非個例。早在大語言模型爆發之前，埃隆·馬斯克 (Elon Musk）在 2014 年就曾提到過，利用 AI，就像是在“召喚”惡魔……

2014 年，馬斯克在一次公開場合談及人工智慧的發展時表示：“我認為我們應該對人工智慧非常謹慎。如果讓我猜一下我們最大的生存威脅是什麼，那很可能就是這個（AI)。”

隨著人工智慧技術的快速發展，人們對其潛在影響的看法呈現出兩極分化的態勢，既有著深切的擔憂，也不乏對其積極作用的認可。許多人認為意識是極為複雜獨特的現象，人工智慧難以企及，它本質上只是進行統計計算的機器，缺乏感受、情感和理解能力，一切行為皆按程式執行，與人類擁有自由意志截然不同。儘管目前關於人工智慧 “安全性” 的爭論不絕於耳，但許多人對其安全的具體範疇仍感到困惑。

當前，人們對人工智慧的擔憂主要集中在兩個方面。其一，人工智慧生成虛假內容的能力可能帶來嚴重危害。在政治領域，虛假資訊本就氾濫，人工智慧的介入可能使情況雪上加霜，進而引發法律問題，例如無辜者被誤指犯罪，有罪者卻藉此獲取不在場證明；在金融經濟領域，也可能引發欺詐、敲詐勒索等問題。並且，人工智慧對社會潛在危害的方式眾多，許多仍有待發現。

其二，人工智慧可能導致大規模失業。以好萊塢編劇罷工事件為例，編劇們擔心自己會被人工智慧生成的劇本替代，尤其是當他們過往的作品被用於訓練人工智慧引擎時。同樣，藝術家們也憂心人工智慧生成的影像和音樂將取代自己的創作。此外，像體育賽事摘要這類常規工作，幾乎肯定會被人工智慧接管。

不過，人工智慧也展現出了巨大的積極潛力。在醫療領域，人工智慧可以透過對海量醫療資料的分析，幫助醫生更準確地診斷疾病，預測疾病的發展趨勢，甚至協助研發新的藥物。例如，一些人工智慧系統能夠快速識別醫學影像中的異常，提高癌症等疾病的早期診斷率，為患者爭取寶貴的治療時間。

在交通領域，自動駕駛技術作為人工智慧的重要應用之一，有望大幅提高交通安全性和效率。透過感測器和演算法，自動駕駛汽車可以即時感知周圍環境，做出更快速、準確的駕駛決策，減少人為失誤導致的交通事故。同時，智慧交通系統還能最佳化交通流量，緩解擁堵，降低能源消耗。

在人工智慧技術持續革新的當下，如何平衡其發展與潛在風險，成為全社會亟待思考的重要議題。