據報美國豁免開放權重AI模型安全測試

美國政府邀請Meta、Anthropic、Google、OpenAI，以及人工智能晶片龍頭英偉達等AI業界代表，在白宮開會討論AI模型自願安全測試框架。據報華府在會上表示，屬於「開源權重」的AI模型毋須進行自願安全測試，中國大陸企業開發的相關模型也適用。

有別於完全公開程式碼、架構及訓練方法的「完整開源」模式，「開源權重」模式只會公開已完成訓練的「模型權重」供公眾使用與微調，但會保留AI模型的訓練資料及程式碼等。目前英偉達的「Nemotron」以及Meta的「Llama」，就屬於「開源權重」模式。不過報道未有明確指出，以「閉源」模式開發AI模型及提供服務的OpenAI、Google和Anthropic，是否要強制進行自願安全測試。

OpenAI及Anthropic近日接連披露，旗下的先進AI模型懷疑有「失控」現象，包括OpenAI的AI系統曾突破防護隔離機制，潛入AI開發者平台「Hugging
Face」，引發外界對AI安全及監管的疑慮。