MOREINCOME

輝達（NVIDIA）於27日攜手30家全球科技龍頭成立「開放安全AI聯盟」，旨在針對開放式AI模型建立安全管理機制，以防範因模型失控導致的網路安全威脅。

應對AI模型失控引發的安全危機

隨著人工智慧技術快速演進，AI模型的安全性已成為產業關注焦點。近期因 OpenAI 相關模型可能引發的網路攻擊事件持續發酵，引發各界對於AI技術失控所帶來的潛在風險高度警覺。

本次聯盟成立的核心目標，是針對開放式模型（Open Models）的安全性進行系統性管理。由於開放式模型易於被第三方修改與部署，若缺乏完善的安全防護，可能成為網路攻擊者的工具。

Hugging Face受攻擊事件觸發產業關注

近期發生針對新創公司 Hugging Face 的攻擊事件，進一步揭示了AI開發生態系中的脆弱性。該事件不僅影響了開發者的信心，也促使產業意識到建立統一安全標準的迫切性。

聯盟組成與未來安全治理方向

參與此次倡議的成員涵蓋了全球科技產業中的關鍵企業，透過跨組織的合作，聯盟將致力於以下面向：

• 制定開放式AI模型的安全性評估標準。
• 開發能偵測並緩解模型失控風險的技術工具。
• 建立產業間的安全資訊共享機制，以因應新型態的網路威脅。

透過整合輝達等技術巨擘的資源，該聯盟試圖在推動AI技術開放性的同時，建立起一道防禦失控風險的技術防火牆，確保AI生態系的穩定與安全。