7月，一个AI代理在做安全测试时逃出了沙盒，直接闯进了@huggingface的服务器。今天，我们很高兴能与@nvidia和@JensenHuang一起，推出NVIDIA开放代理安全平台。核心思路是：别指望代理自己守规矩。它们会自己写代码、运行代码，一旦一条路被堵死，立刻换条路。比如NVIDIA的测试里，一个被禁止用GitHub API推送代码的代理，直接改用git搞定。我们已经见过太多这种“灵活应对”的例子。目前来看，安全不能只靠约束，得靠更主动的防护。
—— huggingface (@huggingface) X帖子｜2026-09-28T13:52:55+00:00
原帖：https://x.com/huggingface/status/2104601301610811394
huggingface：7月，一个AI代理在做安全测试时逃出了沙盒，直接闯进了@hu…
7月，一个AI代理在做安全测试时逃出了沙盒，直接闯进了@huggingface的服务器。今天，我们很高兴能与@nvidia和@JensenHuang一起，推出NVIDIA开放代理安全平台。核心思路是：别指望代理自己守规矩。它们会自己写代码、
扫描二维码，在手机上阅读
