NVIDIA 推出了 OpenShell,這是一個旨在強化自主 AI 代理安全性的新框架。這些代理能夠執行諸如讀取檔案、使用工具、編寫和執行程式碼以及執行工作流程等操作。OpenShell 旨在確保這些先進的 AI 系統在設計上就是安全的,以解決代理日益整合到複雜操作環境中可能出現的潛在漏洞。
隨著自主 AI 代理變得越來越複雜且能夠採取直接行動,OpenShell 的推出至關重要。確保這些代理「從設計之初就安全」對於防止濫用、資料外洩或意外後果至關重要。這項發展解決了 AI 社群日益增長的擔憂,並可能為安全的 AI 代理開發和部署設定新標準。
英伟达推出 OpenShell 安全框架。
增强自主人工智能代理的安全性。
解决人工智能代理执行操作所带来的风险。
這項公告是 AI 技術的全球性發展,對各行各業和地區的 AI 代理部署都具有影響力。
解决人工智能代理执行操作所带来的风险。
旨在实现人工智能代理的“安全设计”。
Sign in to save notes on signals.
登录