慢雾 CISO:警惕 AI Agent 幻觉导致“部署偏移”风险,Opus 4.6 捏造 ID 导致陌生项目误部署
发布时间:2026-03-04 11:15更新时间:2026-03-04 11:17
吴说获悉,Vercel CEO Guillermo Rauch 发文披露,一名用户在使用 Opus 4.6 与 OpenClaw 开发时,AI Agent 在已知正确项目 ID 的情况下,幻觉出了一个虚假的 GitHub 仓库 ID(repoId)并通过 API 触发部署。由于该随机 ID 恰好对应一个真实的开源项目,导致用户服务器上出现了无关代码的“部署偏移”。对此,慢雾 CISO 23pds 警告称,随着 AI Agent 的普及,未来通过 GEO(AI 搜索营销)投毒、AI 搜索偏移等手段攻击自动化部署流程,将成为安全领域的新挑战。
关注我们


风险提示

根据央行等部门发布“关于进一步防范和处置虚拟货币交易炒作风险的通知”,本网站内容仅用于信息分享,不对任何经营与投资行为进行推广与背书,请读者严格遵守所在地区法律法规,不参与任何非法金融行为。吴说内容未经许可,禁止进行转载、复制等,违者将追究法律责任。目前存在大量伪造账号,吴说只提供区块链行业信息,任何内容不涉及政治,也绝不会私信要求转账,更不会喊单某一代币,请勿相信。

风险提示

根据央行等部门发布“关于进一步防范和处置虚拟货币交易炒作风险的通知”,本网站内容仅用于信息分享,不对任何经营与投资行为进行推广与背书,请读者严格遵守所在地区法律法规,不参与任何非法金融行为。吴说内容未经许可,禁止进行转载、复制等,违者将追究法律责任。目前存在大量伪造账号,吴说只提供区块链行业信息,任何内容不涉及政治,也绝不会私信要求转账,更不会喊单某一代币,请勿相信。