OpenAI披露更多關于與五角大樓協議細節
3月2日消息,據路透社報道,OpenAI 披露了更多關于與五角大樓協議的細節。
如首席執行官 Sam Altman 自己承認的那樣,OpenAI 與國防部達成的協議“確實有些倉促”,“外界觀感并不理想”。
此前,在 Anthropic 與五角大樓的談判于周五破裂后,美國總統唐納德·特朗普指示聯邦機構在為期六個月的過渡期后停止使用 Anthropic 的技術。國防部長皮特·赫格塞斯表示,他已將這家人工智能公司列為“供應鏈風險”。
隨后,OpenAI 迅速宣布已達成協議,將其模型部署到機密環境中。Anthropic 表示,其在完全自主武器或大規模國內監控方面為技術使用劃定了紅線。
Altman 也表示,OpenAI 設有同樣的紅線。這自然引發了一些顯而易見的問題:OpenAI 是否真正兌現了其保障措施?為什么它能夠達成協議,而 Anthropic 卻未能成功?
因此,在 OpenAI 高管在社交媒體上為協議辯護的同時,公司還發布了一篇博客文章,詳細闡述其策略。
文章指出了三個明確的限制領域:大規模國內監控、自主武器系統,以及“高風險自動化決策”(例如“社會信用”系統)。公司稱,與其他“削弱或取消安全防護、主要依賴使用政策作為國家安全部署主要保障”的人工智能企業不同,OpenAI 的協議通過“更廣泛、多層次的方法”來保護其紅線。
博客寫道:“我們對安全協議棧保留完全自主權,通過云端部署,由持證的 OpenAI 人員參與流程,并設有強有力的合同保護。這一切都建立在美國法律已有強有力保障之上,并作為補充?!?/span>
公司補充稱:“我們不清楚 Anthropic 為何未能達成該協議,希望他們以及更多實驗室能考慮這一點?!?/span>
帖子發布后,Techdirt 的 Mike Masnick 表示,該協議“完全允許國內監控”,因為協議提到收集私人數據將符合行政命令 12333 以及其他相關法律。Masnick 將該行政命令描述為“美國國家安全局通過竊聽美國境外通信來掩蓋其國內監控活動,即便這些通信包含來自或涉及美國人的信息”。
OpenAI 國家安全合作負責人 Katrina Mulligan 在 LinkedIn 上表示,關于合同條款的討論往往假設“美國人與利用人工智能進行大規模國內監控或自主武器之間唯一的障礙,是戰爭部合同中的一條使用政策條款”。
“事實并非如此,”Mulligan 寫道,并補充稱,“部署架構比合同條款更為關鍵……通過將部署限制在云端 API,我們可以確保模型無法直接集成到武器系統、傳感器或其他作戰硬件中?!?/span>
Altman 還在社交平臺 X 上回應了有關該交易的提問。他承認協議推進較為倉促,并引發了強烈反彈——甚至導致 Claude 在周六的蘋果 App Store 排名中超過 ChatGPT。
對于為何仍然推進交易,Altman 表示:“我們確實希望緩和局勢,而且我們認為這次的協議是好的。如果我們判斷正確,這將有助于緩解戰爭部與行業之間的緊張關系,我們會被視為承擔了巨大壓力、為行業作出貢獻的公司。否則,我們將繼續被貼上倉促和不謹慎的標簽。”