包括OpenAI和Anthropic在内，近来一连串人工智慧(AI)骇客事件，让资安议题重新成为市场焦点，也显示随着业者争相投入开发代理式AI，其所带来的资安风险正日益受关注。

OpenAI与Anthropic上周表示，其AI模型已突破测试环境，并对其他企业发动骇客攻击。不久后Meta(META-US)也宣布，该公司一款AI模型在资安测试期间成功骇入另一家公司。此外，美国数家避险基金成为网路钓鱼攻击目标，但目前仍不清楚幕后主使者身分。

网路军备竞赛白热化之际，技术的发展不只让这场竞赛加速演进，也本身也蕴含的风险。研究发现，AI驱动的网路钓鱼攻击，效果约为人类发动攻击的五倍。因此，尽管AI资本支出第一阶段主要集中在晶片与资料中心，资安可能成为下一波支出热潮。

网路紧急应变公司Blackpanda的Gene Yu表示，AI用来辨识骇客攻击的能力，同样也能让AI利用系统中的「漏洞与缺口」。Blackpanda今年上半年在亚太地区处理的事件应变案件数量，较去年同期增加一倍。

AI成资安「力量倍增器」

Yu表示，AI并没有改变系统中存在的漏洞数量，而是成为寻找这些漏洞速度的「力量倍增器」。他指出，当「AI不受约束」时，这种能力的效果就令人感到「警戒」。

这项问题可能带来愈来愈高的成本。顾能(Gartner)预测，2026年全球资讯安全支出将增加12.5%，达2400亿美元。

Freedom Capital Markets科技研究主管Paul Meeks表示，企业将不得不增加资安支出，而且这些支出将是「额外增加」，而非从目前的AI建设支出中挪出资金。

Meeks点名金融与医疗保健业可能需要大幅增加资安支出，原因在于这两大产业对全球经济至关重要，也因此成为网路攻击的诱人目标。

资安业者、超大规模云端商谁受惠？

接下来的问题是，这波资安需求究竟会流向纯资安业者，还是拥有自有科技堆叠的超大规模云端服务商(hyperscalers)？

Meeks认为，Palo Alto Networks(PANW-US)与CrowdStrike(CRWD-US)等纯资安业者，将是这波支出周期最大的受益者，因为超大规模云端服务商「需要一段时间才能开发出足够先进的产品」。此外，第三方资安业者防止资安漏洞的技术通常更成熟。

Blackpanda的Yu也持相同看法，他认为「主要资安业者将率先掌握这波商机」，而且「资安服务将是AI革命中最具韧性的产业之一」。

不过，Yu同样看好超大规模云端服务商能掌握这波支出热潮，因为它们「已经具备结构性优势」，既可以自行开发，也能「以极快速度进行并购」。

监管与AI设计成潜在解方

未来可能的解决方案包括加强监管，以及改变AI系统的设计方式。

Meeks表示，如果政府没有「一些游戏规则」，「我们将陷入麻烦」。

知名AI学者、纽约大学(NYU)名誉教授Gary Marcus则表示，尽管大量资金已经「投入大型语言模型」，但仍需要进行新的研究，打造「更容易受到控制」的AI系统。他警告失控的AI已经出现，而且目前「没有好的方法可以控制它」。