近日，OpenAI 因涉嫌使用限制性保密協議 (NDA) 限制員工發聲而再次受到審查。
據外媒報道， 舉報人致信美國證券交易委員會，稱 OpenAI 強迫員工簽署“非法限制性”協議，阻止他們披露公司技術潛在的危害。
信上顯示，OpenAI 向其員工發出了過於嚴格的僱傭、遣散費和保密協議，這些協議可能導致向聯邦監管機構提出對 OpenAI 的擔憂的員工受到處罰。
“這些合同發出了一個資訊，即：OpenAI 不希望員工與聯邦監管機構交談，”其中一名舉報人說，“ 我認為，如果人工智慧公司遮蔽審查和異議，就無法構建安全且符合公眾利益的技術。”
OpenAI 發言人 Hannah Wong 在一份宣告中表示：“我們的舉報人政策保護員工進行受保護披露的權利。此外，我們認為對這項技術進行嚴格討論至關重要，並且已經對我們的離職流程進行了重要修改，刪除了非貶損條款。”
美國證券交易委員會已經對該投訴做出了回應，但尚未公佈任何有關其將採取或不採取的行動的細節。但舉報人表示，即使 OpenAI 在其非法合同被公開披露後進行改革，執法仍然是最重要的。“這不是為了攻擊 OpenAI 或阻礙人工智慧技術的發展，而是為了向人工智慧領域的其他參與者以及整個科技行業傳遞一個資訊，即侵犯員工或投資者舉報不當行為的權利的行為將不會被容忍。”
據報道，參議員 Grassley 表明：“監測和減輕人工智慧帶來的威脅是國會保護國家安全的憲法責任的一部分，而舉報人對這項任務至關重要。”“OpenAI 的政策和做法似乎對舉報人的權利造成了寒蟬效應，使他們無法暢所欲言，也無法因其受保護的資訊披露而獲得應有的補償。”
他補充說，如果聯邦政府要在人工智慧領域保持“領先一步”，OpenAI 的保密協議必須改變。
此前據外媒報道，一位匿名訊息人士聲稱， OpenAI 為了滿足公司領導人設定的 5 月釋出日期，在未確保其安全性的情況下，匆忙通過了安全測試，並慶祝了該產品。該員工稱：“在測試產品安全性之前，他們就計劃好了慶祝活動。”
人工智慧的快速發展加劇了政策制定者對科技行業力量的擔憂，引發了大量的監管呼籲。在美國，人工智慧公司在很大程度上是在法律真空中運作的。政策制定者表示，如果沒有舉報人的幫助，他們就無法有效地制定新的人工智慧政策，舉報人可以幫助他們瞭解相關技術帶來的潛在威脅。
參考連結：
https://www.washingtonpost.com/technology/2024/07/13/openai-safety-risks-whistleblower-sec/?continueFlag=7791616afbbc3fe3125af5b41149023f
AIGC技術正以驚人的速度重塑著創新的邊界，InfoQ 首期《大模型領航者AIGC實踐案例集錦》電子書，深度對話30位國內頂尖大模型專家，洞悉大模型技術前沿與未來趨勢，精選10餘個行業一線實踐案例，全面展示大模型在多個垂直行業的應用成果，同時，揭秘全球熱門大模型效果，為創業者、開發者提供決策支援和選型參考。關注「AI前線」，回覆「領航者」免費獲取電子書。
在主題演講環節，我們已經邀請到了「蔚來創始人 李斌」，分享基於蔚來汽車 10 年來創新創業過程中的思考和實踐，聚焦 SmartEV 和 AI 結合的關鍵問題和解決之道。大會火熱報名中，7 月 31 日前可以享受 9 折優惠，單張門票節省 480 元（原價 4800 元），詳情可聯絡票務經理 13269078023 諮詢。