英伟达推出一套新的双层人工智能（AI）安全系统 ，并称其有能力阻止近期OpenAI的AI模型导致Hugging Face遭侵入的事件。
此次推出的两款开源软件安全工具可在英伟达硬件上运行 ，旨在实时控制AI智能体可以访问的资源，并在其违反规则时将其关闭 。这家芯片巨头正迅速将产品线扩展至芯片以外领域 。
英伟达企业AI副总裁Justin Boitano在周一发布前向记者介绍称，如果前沿AI实验室早期就使用这项技术评估模型 ，本可避免Hugging Face攻击事件。“根据我们近来 掌握的信息 ，这套新的安全平台本可以阻止这次安全事件。 ”
包括7月Hugging Face事件在内的自主AI智能体不当行为，已在AI行业引发震动 ，并促使一些人呼吁放慢技术开发 。英伟达将这款新产品命名为Open Agent Safety Platform ，试图提供一种无需放缓AI发展的安全防护方案 。英伟达首席执行官黄仁勋此前多次淡化AI脱离人类控制的风险。
Boitano没有评论OpenAI或竞争对手Anthropic PBC是否计划使用这套新系统监控其模型训练过程，而是让相关公司自行回应 。
©版权声明
分享是一种美德，转载请保留原链接
THE END
相关推荐
