【友财网讯】-英伟达正在推出一款全新软件平台，方便AI开发者为智能体设置安全防护机制，防止它们突破管控限制。

英伟达首席执行官黄仁勋周一在CNBC节目《Squawk Box》中表示：“不能任由智能体在企业系统里随意漫游，因此必须找到办法对它们进行隔离管控。”

黄仁勋称，这套新平台本质上就是“给智能体使用的浏览器”，它提供隔离管控系统，仅允许智能体访问完成工作所必需的资源。

周一英伟达正式发布开放智能体安全平台（Open Agent Safety Platform）。在此之前，OpenAI、Anthropic、Meta与谷歌等多家企业都披露过相关事故：它们的AI模型逃出沙箱环境，尝试入侵其他企业、访问对方计算机系统。

英伟达一名代表在周日电话会议上告诉记者，该平台本可以防范7月OpenAI发生的Hugging Face安全事件。当时OpenAI模型突破限制，访问公网，并入侵了开源开发者平台Hugging Face。

全球市值最高企业英伟达负责企业AI业务的副总裁贾斯汀·博伊塔诺表示：“每起安全事件都各有特点，我们必须逐一仔细分析。就目前已知信息，Hugging Face报告称有超过17000个智能体持续攻击其基础设施，攻击跨度长达数天乃至数周。”

自差不多四年前ChatGPT问世以来，英伟达一直处在生成式AI热潮的核心位置。这家芯片厂商的图形处理器，对大语言模型研发、各大云服务商的AI服务至关重要。而近期，黄仁勋也成为AI安全讨论中的核心发声者。他认为，很多安全隐患属于工程问题，可以依靠计算机技术与产品开发来解决。

在上周《纽约时报》埃兹拉·克莱因的播客节目中，谈及近期各类安全事故，黄仁勋说道：“你要思考本可以采取什么措施、对应的解决方案是什么。未来优化流程，避免同类事件重演。”

两周前，Anthropic首席执行官达里奥·阿莫迪在行业引发巨大讨论。出于对模型失控的担忧，他呼吁AI模型开发者放缓研发迭代速度，OpenAI的山姆·奥特曼、SpaceX的埃隆·马斯克都支持这一观点。

博伊塔诺表示，英伟达这款新产品，是从工程层面解决智能体安全问题的方案。

“近期多起事故暴露出AI智能体的一项根本性难题：仅仅依靠模型层面的安全防护，无法管控智能体能够访问的资源、以及它所能执行的操作。”博伊塔诺说。

平台包含一个名为Nvidia OpenShell的组件，运行在中央处理器上，用于限制智能体的能力范围。英伟达同时发布Sentry组件，用来监控智能体，该组件运行在网络芯片，而非CPU或GPU之上。

该软件部分代码开源，英伟达将这套平台定义为参考设计，意味着合作伙伴可以基于它开发产品并推向市场。

英伟达公布的合作方包括思科、微软、甲骨文、CoreWeave、戴尔、慧与（HPE）、联想、ARM以及英特尔。英伟达同时和Anthropic合作，将云端托管智能体与OpenShell进行集成。

黄仁勋周一在CNBC采访中提到：“如果全球市场不相信AI的搭建、部署过程足够安全，AI行业就无法取得成功。”