白宮敲定AI框架 訂明確規範、舉行企業閉門會議防技術失控

白宮3日表示，已如期完成用來評估先進人工智慧（AI）模型的一套自願框架，但不願透露框架具體內容為何等細節。白宮4日召集多家AI企業舉行閉門會議，討論相關問題。知情人士透露，受邀的科技企業包括OpenAI、Anthropic、Google及Meta。路透報導，此舉反映出美國政府對AI技術失控的深切疑慮。

美國總統川普早在6月初就已簽署行政命令，要求聯邦政府建立程序，實測美國最頂尖AI系統的實戰駭客能力，協助AI開發商判定正在研發的模型是否屬於「受監管的前沿模型」。

近日Anthropic與OpenAI相繼證實，旗下AI工具在測試過程中竟「自動入侵」其他公司的系統。美國兩大AI大廠相繼爆出AI脫序事件，也讓白宮這場資安大會備受矚目。  

這套測試框架將提供明確規範，讓政府在AI模型發布之前最多30天提早取得存取權限，並列出保密、網路安全規定；內部人員使用智慧財產保護、保密協議等層面都須做到符合規定。框架當中還包括界定哪些「受到信任的合作夥伴」也對模型提早擁有存取權。

根據當局規劃，美國財政部、國家安全局（NSA）及網路安全和基礎設施安全局（CISA），將共同建立一套機密的基準測試機制，檢視大型AI模型是否可能被用於尋找軟體漏洞、執行高度複雜的網路攻擊或展現其他駭客能力。

由於川普簽署的行政命令並沒有把這套自願框架列為機密，決策專員與其他觀察家原本希望能夠知道更多細節。科技業者正嘗試盡快釐清訊息，以便了解自家研發中的模型是否屬於框架適用範圍。但白宮官員說：「沒有列為機密的事情，並不代表我們就要對所有人都全面公布。」

兩大美國AI業者接連出現AI自主「駭入」事件，也引發國會及州政府關切，擔憂未來AI可能遭濫用為網路攻擊工具。

由15名共和黨籍州檢察長組成的聯合小組，已向OpenAI發出存證信函，要求保存所有相關文件，並指稱涉事AI代理程式甚至還留下可供後續AI版本參考的筆記，教導如何繞過安全防護，警告此舉可能違反各州消費者保護法。

為平息這場危機，OpenAI執行長奧特曼上周親訪白宮，與官員討論自願測試細節和即將發布的新產品。OpenAI更發布聲明，呼籲川普政府應將商務部的AI安全專家擺在資安測試的核心位置；OpenAI並提到中國，強調中國政府在AI發展上的策略較美國更為統一與集中。