超1100名科技從業者發起倡議，呼籲建立全球AI發展節奏治理機制

AI安全議題正從原則宣言，轉向「如何控制發展節奏」這樣的具體議題。路透社在7月29日報導稱，有超過1100名來自頂尖科技公司的員工支持一項名為「Pacing the Frontier」的倡議，他們呼籲美國政府推動國際合作，建立用於管理前沿AI發展速度的技術與治理工具。

參與者來自Meta、Anthropic、OpenAI和Google等機構，支持該計劃的組織還包括Guidelight AI Standards和Encode AI。簽署協議的人士中，有Anthropic的執行長Dario Amodei、該公司的多位聯合創始人、OpenAI的首席科學家Jakub Pachocki，以及Meta的AI研究管理人員。

該倡議所關注的並非單純地停止創新，而是為可能出現的高速遞歸改進建立可驗證的控制機制。如果模型能夠大幅加速下一代模型的研發，那麼產業的升級速度可能會從以月計算轉變為以週甚至以天計算，而傳統的立法、審計及企業風控方式將很難及時做出反應。

可執行的「節奏治理」需要比口頭承諾更紮實的工具。例如，對高風險訓練任務設定跨機構觸發閾值，對算力集群和關鍵模型權重建立審計記錄，對危險能力測試採用統一基準，並在事故發生時啟動可核驗的暫停與通報流程。只有當不同實驗室使用兼容的標準，國際協作才不會變成單方面減速。

這項倡議也反映出，各前沿實驗室在風險判斷上正逐漸達成共識。OpenAI表示，未來AI的發展速度可能會快到需要主動控制前沿模型的發展速率；而Anthropic則強調，應提前準備相關工具，讓社會有時間適應潛在的快速變化。

對於產業而言，治理機制並不必然會削弱競爭力。統一的效能評估、透明的事故報告，以及可追蹤的安全承諾，都能減少企業客戶對使用高權限AI系統的顧慮。真正的難題在於，如何避免某些企業利用這些標準來鞏固其市場地位，同時也要確保那些高風險的技術不會在監管漏洞中蔓延開來。

資料來源：Reuters