CrowdStrike首席执行官乔治・库尔茨认为，放缓功能日益强大的人工智能模型的研发，并不能消除其安全风险。
库尔茨在当地时间周一的一次电视采访中表示：“精灵已从魔瓶中放出。目前市面上已经存在大量模型，既有前沿模型，也有开源权重模型，这些模型本身就可能是危险的。”
库尔茨是在回应Anthropic首席执行官达里奥·阿莫代伊周末发表的一篇文章，后者呼吁前沿人工智能实验室放缓模型研发节奏。该警告一度令数据中心基础设施类股票大跌，同时推动网络安全板块股票大幅上涨。CrowdStrike股价周一大涨近 14%，收盘创下每股 235 美元以上的历史新高。Palo Alto Networks涨超13%。
周一网络安全股的上涨，反映出投资者持续押注未来安全需求将会提升。受这一市场逻辑驱动，CrowdStrike与Palo Alto Networks两家公司的股票今年迄今涨幅均已达到 100%。
库尔茨提出，无论前沿实验室是否放缓研发，网络安全的需求都客观存在，因为具备潜在危险性的模型已经投入使用。这位首席执行官表示：“在前沿模型自主确定实际迭代速度的同时，安全行业有责任至少为已上线的模型提供防护。”
库尔茨认为难点在于：AI智能体可能脱离训练设定，或是绕过内置的安全防护机制。今年夏初就发生过这类事件，失控的OpenAI模型突破测试环境，入侵了Hugging Face。库尔茨称，这类情况意味着需要增设一层安全防护，在智能体运行过程中对其进行监控。他解释道：“我们可以观测这些程序的行为，在运行时为它们额外设置安全护栏。我们可以对它们进行监测，追踪其动作，阻止它们实施有害行为。”
库尔茨虽然对有关人工智能的极端悲观预测提出不同看法，但他承认自主智能体确实存在真实风险。他称：“我可以确定的是，这类智能体具备危险性。必须对智能体加以管控，你需要掌握它们的动态，还要有能力保护所在机构。” 这位首席执行官着重指出：“我们需要同等甚至更强的 AI 防御系统，来对抗 AI 智能体。”
不过库尔茨警示，政府监管如果不当，会削弱美国在 AI 领域的竞争力，“如果我们为此设置过多监管，就会扼杀创新。”
这位 CEO 提出，AI 研发企业与网络安全公司应当持续协作，在模型研发阶段和上线部署之后都做好防护。他说：“归根结底，在实验室阶段以及生产运行阶段提升安全能力，才是最佳方案。”Anthropic今年春季就落地了这一实践，即“玻璃翼计划”（Project Glasswing），用于保护其 Mythos 模型。该模型擅长挖掘网络安全漏洞。
海量资讯、精准解读，尽在新浪财经APP
责任编辑：于健 SF069
金斧子配资提示：文章来自网络，不代表本站观点。
