突發！Hinton簽署聯名信：公開抵制OpenAI重組！10名前OpenAI員工也參與了

2025-05-06 05:51 CVer

點選下方卡片，關注“CVer”公眾號

AI/CV重磅乾貨，第一時間送達
點選進入—>【頂會/頂刊】投稿交流群

新增微訊號：CVer2233，小助手會拉你進群！
掃描下方二維碼，加入CVer學術星球！可以獲得最新頂會/頂刊上的論文idea和CV從入門到精通資料，及最前沿應用！發論文/搞科研/漲薪，強烈推薦！

轉載自：學術頭條

【導讀】日前，諾獎得主、AI教父Geoffrey Hinton聯合10名前OpenAI員工及其他業內人士聯合發表公開信反對OpenAI的重組計劃，理由非常直接：OpenAI違背了他們的慈善宗旨，即確保AGI的安全開發和造福人類。
在剛剛簽署的公開信中，Hinton表示，OpenAI獨特的非營利法律結構是防止商業利益凌駕使命的保障，重組將削弱公眾利益的保護機制，違反公司章程，構成對其非營利責任的威脅。
他們在公開信中呼籲：要求OpenAI解答根本問題。OpenAI並未公開解釋其擬議的重組將如何推進該非營利組織的慈善目標，即安全地開發AGI，造福人類。它也沒有充分解釋，為什麼CEO奧特曼在國會作證時所強調的治理保障措施在2023年對OpenAI的使命至關重要，卻在2024年卻成為了其使命的障礙。
確保非營利組織保留控制權，從而保護慈善信託和宗旨。要求OpenAI停止重組，並保護治理保障措施（包括非營利組織的控制權），OpenAI領導層一直堅稱，這些措施對於「確保其繼續專注於其長期使命」至關重要。
公開信簽署者名單如下：
公開信連結：https://notforprivategain.org/

為何阻止OpenAI重組？
想要理解OpenAI的慈善宗旨：非營利控制為何能保護使命，我們可以先理解OpenAI所說的「AGI」是什麼意思。OpenAI將AGI定義為「一種高度自主的系統，在最具經濟價值的工作上表現優於人類」。
而另一方面，OpenAI警告稱，「AGI還會帶來嚴重的濫用風險、重大事故和社會混亂。失調的超級智慧AGI可能會對世界造成嚴重傷害。」奧特曼和OpenAI的高階員工此前與Hinton在內的數百人一起簽署了一份宣告，該宣告指出，「緩解AI滅絕的風險應該是全球優先事項，優先於其他社會規模的風險，如大流行病和核戰爭。」
OpenAI的成立目的即是因為擔憂一家營利性公司開發AGI。為了實現其使命，同時避免成為另一個以利潤為導向的谷歌競爭對手或對尖端AI沒有直接影響力的學術安全實驗室，OpenAI嘗試構建AGI。為了確保他們在構建AGI的競賽中的動力永遠不會損害他們的使命，他們註冊為非營利組織，並在法律和結構上將構建AGI的目標置於使命之下。
2019年，OpenAI決定，除了作為一家非營利性非股份公司所能籌集的捐款和債務資本外，還需要籌集股權資本。為了在保持其使命優先地位的同時實現這一目標，OpenAI成立了一家受控的營利性子公司。透過這家受控子公司「OpenAI-profit」，OpenAI將向尋求回報的投資者籌集資金。然而，新的營利性實體將是原非營利組織「OpenAI-nonprofit」的子公司，原非營利組織將保留其信託責任，將慈善事業置於首位。
擬議的重組將顛覆OpenAI的慈善使命。OpenAI近期宣佈，計劃再次進行重組，據稱是為了滿足投資者簡化資本結構的需求。根據這項新的重組方案，OpenAI-profit將轉型為特拉華州的一家公益公司「OpenAI-PBC」。屆時，OpenAI-PBC將「運營和控制OpenAI的運營和業務，而該非營利組織將聘請領導團隊和員工，在醫療保健、教育和科學等領域開展慈善事業」。OpenAI-nonprofit的「對現有營利性組織的重大權益將以PBC股份的形式持有」。
透過取消非營利組織的控制權，擬議的重組將消除OpenAI一直堅稱對其慈善宗旨至關重要的大部分治理保障措施。而且，任何金額都比控制一家全球領先的AI公司更能促進OpenAI非營利組織的慈善宗旨。
OpenAI公開的重組理由是，其優先考慮競爭優勢而非慈善宗旨，且未能闡明放棄非營利組織控制權如何與其使命相相容。儘管OpenAI目前的架構可能存在侷限性，且競爭定位可能間接支援其使命，但任何擬議的解決方案都必須在不損害核心原則的情況下，針對實際缺陷進行量身定製。
OpenAI尚未公開證明，其重組對使命的所謂益處如何大於拆除旨在確保OpenAI忠於其使命的保障措施所帶來的巨大風險。非營利組織可能因失去控制權而一無所獲。

如何阻止OpenAI重組？
公開信中寫道，「我們懇請Bonta和Jennings總檢察長採取以下行動…」即上述提到的「要求回答基本問題」和「確保非營利組織保留控制權，保護慈善信託和宗旨」。

1.OpenAI需要回答哪些基本問題？

OpenAI尚未公開回答有關重組的一些基本問題。他們敦促總檢察長調查以下問題：
1）董事會決定的理由
  • 取消非營利組織的控制權是推進OpenAI慈善目標的最佳途徑嗎？如果是，為什麼？做了哪些分析，又考慮了哪些替代方案？
  • 2023年5月，奧特曼在國會作證時表示，OpenAI的治理「確保其始終專注於其長期使命」。他當時提到的許多（如果不是全部）保障措施，在擬議的重組方案下都將不復存在。2023年5月至2024年9月之間發生了什麼變化，以至於對OpenAI使命至關重要的保障措施反而變成了障礙？
  • 奧特曼曾多次表示，營利性機構會給試圖構建AGI的組織帶來不良激勵。現在情況不是這樣嗎？如果是這樣，原因是什麼？
  • 投資者壓力對重組決策有何影響？董事會是否正式批准了一輪包含以重組為條件的投資？如果是，董事會提供了哪些資訊來支援其批准？
2）利益相關董事的參與
  • 哪些現任董事已經參與或計劃參與有關擬議重組的決策，哪些（如果有）沒有參與，以及各自有哪些潛在的利益衝突？
  • 根據擬議的重組，任何董事是否會獲得OpenAI-PBC的股權、額外股權或其他直接或間接個人利益？
3）OpenAI提出的重組計劃
  • OpenAI-PBC的治理結構是怎樣的？誰會加入這個致力於構建AGI的實體的董事會？
  • OpenAI-PBC需要什麼樣的架構來保證其行動符合其使命，即確保AGI的安全開發並造福全人類？具體來說，他們將採取哪些保障措施來確保其釋出的AI系統是安全的，並且AGI的收益能夠惠及全人類，而不是優先惠及投資者？
  • 如果OpenAI-PBC採取明顯對人類有害的行動，誰能採取補救措施？
  • OpenAI-PBC是否會重新承諾章程中的原則，包括承諾停止與接近構建AGI的使命一致的組織競爭併為其提供幫助？
  • OpenAI的立場是否是，其他前沿AI公司的目標與OpenAI不一致？OpenAI的立場是否是，如果任何一家公司搶在OpenAI之前開發AGI，人類的利益就會受到威脅？如果是這樣，OpenAI的立場又有何依據？
  • 新投資者的利潤是否仍會受到限制？超過上限的利潤還會歸OpenAI-nonprofit所有嗎？過去投資者的利潤上限會被取消嗎？利潤上限結構的任何變化將為非營利組織帶來什麼價值？所有關於超過上限的利潤預期值的內部分析都應被要求提供。
  • 如果OpenAI構建了AGI，誰將擁有並控制它？微軟對AGI的智慧財產權是否與 OpenAI現有AI系統的智慧財產權相同？

2.OpenAI需要保護最初的慈善宗旨

他們呼籲不要讓OpenAI的重組按計劃進行。他們敦促總檢察長透過保留OpenAI和奧特曼反覆聲稱對其使命至關重要的核心治理保障措施來保護OpenAI的慈善宗旨：
  • OpenAI的領導層（試圖構建AGI的實體）應該對使命負有信託責任：確保 AGI安全開發並造福人類。
  • 除了使命之外的所有目標——包括利潤和贏得AGI競賽——都應該服從於使命。
  • OpenAI將使命放在首位的義務必須至少由總檢察長、董事和對此事有特殊利益的各方依法強制執行。
  • 投資者的利潤應該繼續受到限制，超過限制的利潤應該專門直接用於造福人類。
  • OpenAI應該保留其章程中的承諾，停止競爭並開始協助接近構建AGI的使命一致的專案。
  • AGI本身（如果OpenAI建立的話）應該屬於非營利組織或類似的實體，其唯一責任是確保AGI得到負責任的使用並造福人類。它不應由商業實體或其投資者擁有或控制。
然而，僅僅停止重組是不夠的，因為這些治理保障措施顯然不足以阻止管理層推動將其移除。他們還請求您確保董事會擁有必要的獨立性、資源、資訊和意願，以履行其受託責任，抵制管理層。具體如下：
  • 罷免董事。任何被發現破壞董事會重組決策完整性的董事均應被罷免。
  • 獨立性：董事會的大多數成員不應在OpenAI-profit中擁有直接或間接的個人利益。
  • 專業知識。董事會應具備必要的專業知識，以瞭解OpenAI-profit何時採取與使命相悖的行動。
  • 資源。董事會應擁有必要的人員和預算，以監督這家擁有數千名員工、估值達3000億美元的組織的運營。
  • 資訊。OpenAI應定期及時向董事會彙報任何可能與其使命相沖突的活動。董事向管理層提出的任何問題都應得到及時、詳細的答覆。
  • 監督。監督這些變更的實施，或指定一個獨立機構來監督其實施。在這些變更最終確定之前，董事會的任何決定都應接受仔細審查。
他們在公開信的最後寫道，OpenAI的成立是為了確保AGI的安全發展並造福全人類，其目前的架構在法律上將營利動機置於「確保AGI的安全發展，造福全人類」的使命之下。
擬議中的重組將取消必要的保障措施，實際上將這項可能是有史以來最強大的技術的控制權和利潤，交給一個有法律義務優先考慮股東回報的營利性實體。
「我們敦促您停止這一重組，恢復適當的治理，並確保OpenAI繼續對您、公眾及其慈善宗旨負責。」

何愷明在MIT授課的課件PPT下載
在CVer公眾號後臺回覆：何愷明，即可下載本課程的所有566頁課件PPT！趕緊學起來！

CVPR 2025 論文和程式碼下載

在CVer公眾號後臺回覆：CVPR2025，即可下載CVPR 2025論文和程式碼開源的論文合集

ECCV 2024 論文和程式碼下載

在CVer公眾號後臺回覆：ECCV2024，即可下載ECCV 2024論文和程式碼開源的論文合集
CV垂直方向和論文投稿交流群成立
掃描下方二維碼，或者新增微訊號：CVer2233，即可新增CVer小助手微信，便可申請加入CVer-垂直方向和論文投稿微信交流群。另外其他垂直方向已涵蓋：目標檢測、影像分割、目標跟蹤、人臉檢測&識別、OCR、姿態估計、超解析度、SLAM、醫療影像、Re-ID、GAN、NAS、深度估計、自動駕駛、強化學習、車道線檢測、模型剪枝&壓縮、去噪、去霧、去雨、風格遷移、遙感影像、行為識別、影片理解、影像融合、影像檢索、論文投稿&交流、PyTorch、TensorFlow和Transformer、NeRF、3DGS、Mamba等。
一定要備註：研究方向+地點+學校/公司+暱稱（如Mamba、多模態學習或者論文投稿+上海+上交+卡卡），根據格式備註，可更快被透過且邀請進群

▲掃碼或加微訊號: CVer2233，進交流群
CVer計算機視覺（知識星球）來了！想要了解最新最快最好的CV/DL/AI論文速遞、優質實戰專案、AI行業前沿、從入門到精通學習教程等資料，歡迎掃描下方二維碼，加入CVer計算機視覺（知識星球），已彙集上萬人！

▲掃碼加入星球學習
▲點選上方卡片，關注CVer公眾號
整理不易，請點贊和在看


相關文章