英伟达(NVIDIA)推出了 OpenShell,一个旨在增强自主人工智能代理安全性的新框架。这些代理能够执行读取文件、使用工具、编写和运行代码以及执行工作流等操作。OpenShell 旨在确保这些先进的人工智能系统在设计上就是安全的,以解决随着代理越来越多地集成到复杂的运营环境中而出现的潜在漏洞。
随着自主人工智能代理变得越来越复杂并能够采取直接行动,OpenShell 的推出至关重要。确保这些代理“在设计上就是安全的”对于防止滥用、数据泄露或意外后果至关重要。这一发展解决了人工智能领域日益增长的担忧,并可能为安全的人工智能代理开发和部署设定新标准。
英伟达推出 OpenShell 安全框架。
增强自主人工智能代理的安全性。
解决人工智能代理执行操作所带来的风险。
这项公告是人工智能技术领域的全球性发展,对各行各业和地区的人工智能代理部署都具有重要意义。
解决人工智能代理执行操作所带来的风险。
旨在实现人工智能代理的“安全设计”。
登录后可保存信号笔记。
登录