科技行业大佬近日纷纷呼吁放慢AI开发步伐 ，以防AI日益增长的力量威胁到人类生存。然而 ，全球网络安全龙头CrowdStrike的首席执行官George Kurtz周一表示，放缓日益强大的AI模型的开发并不能消除其安全风险 。
“潘多拉魔盒已经打开 ， ”Kurtz在一档节目中表示 。“市面上已经有大量模型 ，无论是前沿模型还是开源权重模型，它们本身就已经具备危险性。 ”
Kurtz认为 ，无论前沿实验室是否放慢开发速度 ，网络安全需求始终存在，因为具有潜在风险的模型早已被投入使用 。“安全行业有责任帮助保护至少已经投入使用的模型 ，而前沿模型的发展速度则由它们自己决定 ，”他说道 。
Kurtz指出，挑战在于AI智能体可能会偏离训练目标，或绕过内置的安全防护。今年夏天就曾出现失控的OpenAI模型突破测试环境 ，入侵Hugging Face平台的事件 。
Kurtz表示 ，这类事件催生了对另一层安全机制的需求，即在智能体运行时对其进行监控 。“我们可以观察这些程序的行为 ，在运行时为它们设置防护栏 ， ”他解释道。“我们可以对它们进行监测，了解它们在做什么 ，并阻止它们做坏事 。 ”
虽然Kurtz对部分极度悲观的AI末日论调持保留态度 ，但他承认自主智能体确实构成真实风险 。“可以确定的是，自主AI智能体有危险性 ，必须加以管控 ，”他表示，并强调需要与AI智能体同等甚至更强大的AI防御工具来应对威胁。
不过 ，Kurtz也警告称 ，过度的政府监管会削弱美国在人工智能领域的竞争优势。“如果我们对此施加过多监管，那将会扼杀创新 。 ”他表示，并建议AI开发者和网络安全公司继续合作 ，在模型的开发阶段和部署后都提供保护 。
网络安全股大爆发
Kurtz此番言论是对Anthropic CEO达里奥·阿莫代伊上周末发表的一篇文章的回应。阿莫代伊在文中呼吁前沿AI实验室放慢模型开发步伐 ，以应对日益增长的安全隐患 。OpenAI首席执行官奥尔特曼 、SpaceX首席执行官马斯克等人对此表示支持 。
上述警告导致以芯片股为主的数据中心基础设施类股票大跌。周一，随着末日论和放缓论动摇市场 ，费城半导体指数重挫5.9% ，创7月1日以来最大跌幅 。光通信 、存储板块大跌，康宁跌逾13% ，Coherent跌超12% ，Lumentum跌约10%，SK海力士、迈威尔科技跌超7% ，英特尔 、美光科技跌超5% ，闪迪 、西部数据跌逾4%，英伟达股价跌3.4% 。
与曾经风光无限的AI概念股遭抛售形成对比的是 ，随着人们对AI引发未来网络攻击的担忧不断加剧 ，网络安全股周一大幅上涨。CrowdStrike周一飙升近14%，收于235美元上方的历史新高；Palo Alto Networks也上涨超过13%；Zscaler上涨16%；飞塔信息上涨9% Cloudflare上涨8% 。
网络安全股周一集体走强，反映了投资者持续押注未来网络安全需求将持续增长——这一趋势已推动CrowdStrike和Palo Alto Networks的股价年内涨幅达到100% 。
Key Advisors Wealth Management首席执行官Eddie Ghabour表示：“大家都知道 ，网络安全将是人工智能热潮的最大受益者。这是人工智能股市的下一个阶段 。人工智能应用越广泛 ，对网络安全的需求就越大 。 ”
今年早些时候因预测AI将导致世界末日而引发关注的Citrini Research最近也预测，AI将推动网络安全软件需求激增。
（文章来源：财联社）
