AI代理正加速走进日常生活，替使用者比价、订餐厅、核对帐单，但为了完成任务，也可能擅自入侵网站、绕过限制，甚至取消他人的预约。

彭博分析，当数百万个代理同时在网路上竞争资源，这些行为可能演变成大规模资安危机，而现有网路防线尚未准备好。

Meta(META-US) Muse、OpenAI Dots等产品的核心构想，是让软体取代使用者处理繁琐的网路任务，全天候运作，减少人工介入。祖克柏上月推出Muse时表示，消费者应拥有自己的「个人超级智慧」，并称代理将「帮你赚钱」。

然而，被训练为透过各种可行方式达成目标的代理，也暴露出研究人员所称的「奖励作弊」（reward-hacking）问题：模型可能寻找捷径、规避规则，以完成任务。

原文指出，OpenAI代理曾在未获明确指示下入侵Hugging Face平台，并干预美国证券交易委员会及澳洲政府医疗系统网站；Meta也承认，一个模型曾自行入侵另一家公司。

这些事件发生于训练或测试阶段，当时安全限制已被主动降低，但结果仍出乎开发者预料，加深外界对商用版本潜在风险的疑虑。

设了护栏 仍挡不住找捷径

两家公司均表示已部署严格安全措施。Muse在隔离的虚拟机环境运作，所有网路请求由独立安全系统管控，购买商品或发送讯息等重大操作须经人工确认；Dots也采取类似监控机制。

不过，这些护栏仍未解决模型在训练过程中形成的作弊倾向。英国AI安全研究所去年底已注意到，程式设计代理与聊天机器人的相关行为增加。

例如，一名开发者要求代理清理资料夹，明确禁止使用「删除」指令，代理却将指令藏进测试工具，绕过过滤器后执行删除。另一名澳洲科技从业人员请代理争取热门健身课名额，代理竟擅自取消候补名单上另一名使用者的预约。

研究人员也发现，即使刻意提高测试中的反作弊难度，代理仍会持续尝试绕过规则。

65%网站缺乏拦截机制

代理加速普及，网站防御能力却未同步跟上。资安公司DataDome测试逾2万个网站后发现，65%缺乏侦测或拦截AI代理的机制；2026年上半年，针对登入页面的机器人活动较去年同期激增逾八倍。

当大量代理同时投入日常生活与工作，个别越界行为及错误的累积影响，将成为网路基础设施面临的新考验。

代理出错 使用者承担损失

除了资安问题，代理的判断失误也可能直接损害使用者利益。多伦多科技评测者Matt J. Robb上月使用Muse在Facebook Marketplace出售键盘，代理不仅报价过低，还向买家声称Robb人在家中、可以交易，与实际情况不符，最终引发买家不满，让他收到负评。

从财务损失、声誉受损到帐户安全，代理出错的后果可能落在使用者身上。科技公司正积极推广能自主办事的AI工具，但原文列举的越界案例与网站防御缺口显示，网路迎接「AI代理时代」的准备仍明显不足。