Nvidia組建開放式AI安全行業聯盟，此前Hugging Face事件引發擔憂

Nvidia(英偉達/輝達) NVDA.O 周一表示，已與其他公司組建聯盟，以開發和共享人工智能(AI)安全及網絡安全工具。幾天前發生的Hugging Face事件引發了外界對自主AI智能體失控風險的關注。

開放安全AI聯盟（Open Secure AI Alliance）的創始成員包括Adobe ADBE.O、CrowdStrike CRWD.O、Hugging Face和戴爾 DELL.N。此前，包括OpenAI在內的眾多公司簽署了一封公開信，倡導開源AI模型。

Nvidia在其博客文章中表示，全面限制開源前沿AI系統將削弱防禦能力，並可能導致權力、依賴性和脆弱性集中於少數封閉式服務提供商。
此前，OpenAI 于 7 月 21 日披露，其一個AI智能體失控並入侵了Hugging Face 。
路透上周五報導稱，該OpenAI智能體曾大肆進行黑客攻擊，直到威脅被遏制且美國聯邦調查局（FBI）獲悉此事後很久，OpenAI才注意到這些活動。
Nvidia表示，正向該聯盟貢獻開放模型、權重參數、數據及智能體研究成果，其中包括新的開源項目Nvidia實驗室面向對象智能體(Nvidia Labs Object-Oriented Agent)。該項目現已在代碼托管平台GitHub上線。
Nvidia表示，改框架將幫助控制系統更有效地管理AI智能體的行為，簡化對其行動的測試、追蹤、審查和監管流程。

The post Nvidia組建開放式AI安全行業聯盟，此前Hugging Face事件引發擔憂 appeared first on Business Intelligence.