人工智能的一个令人震惊的分水岭，还是一个被夸大的威胁？
人工智能初创公司 Anthropic 最近宣布，它发现了世界上第一个由人工智能主导的黑客活动，引发了网络安全专家的众多回应。
推荐故事
4 项清单列表末尾
尽管一些观察人士对长期担心的危险拐点的到来发出了警报，但其他人却对这些说法持怀疑态度，认为这家初创公司的说法遗漏了关键细节，提出的问题多于答案。
Anthropic 在周五的一份报告中表示，其助手 Claude Code 被操纵，实施了 80-90% 的“大规模”和“高度复杂”的网络攻击，“仅偶尔”需要人为干预。
流行的 Claude 聊天机器人的创建者 Anthropic 表示，这次攻击的目的是渗透政府机构、金融机构、科技公司和化学品制造公司，尽管该行动只在少数情况下取得了成功。
这家总部位于旧金山的公司将这次攻击归咎于中国政府支持的黑客，但没有具体说明如何发现这一行动，也没有具体说明其所说的“大约”30 个目标实体。
路易斯维尔大学人工智能和网络安全专家 Roman V Yampolskiy 表示，毫无疑问，人工智能辅助的黑客攻击构成了严重威胁，尽管很难核实 Anthropic 账户的具体细节。
“现代模型可以编写和调整漏洞代码，筛选大量被盗数据，并比人类团队更快、更便宜地编排工具，”Yampolskiy 告诉半岛电视台。
“它们降低了进入的技能门槛，并扩大了资源充足的参与者的运作规模。我们正在有效地将初级网络运营团队置于云中，按小时出租。”
亚姆波尔斯基表示，他预计人工智能会增加攻击的频率和严重程度。
Epoch AI 总监 Jaime Sevilla 表示，他在 Anthropic 的报告中没有看到太多新内容，但过去的经验表明，AI 辅助的攻击不仅可行，而且可能会变得越来越普遍。
塞维利亚告诉半岛电视台：“这可能对中型企业和政府机构造成最严重的打击。”
“从历史上看，对于专门的活动来说，它们并不是足够有价值的目标，而且在网络安全方面的投资往往不足，但人工智能使它们成为有利可图的目标。我预计这些组织中的许多组织都会通过聘请网络安全专家、启动漏洞奖励计划以及使用人工智能在内部检测和修补漏洞来适应。”
尽管许多分析师表示希望从 Anthropic 获得更多信息，但也有一些分析师对其说法不屑一顾。
在美国参议员 Chris Murphy 警告称，如果监管不成为优先事项，人工智能主导的攻击将“摧毁我们”后，Meta AI 首席科学家 Yann LeCun 指责立法者被一家寻求监管捕获的公司“玩弄”。
LeCun 在 X 上的一篇帖子中表示：“他们用可疑的研究吓唬所有人，以至于开源模型受到监管而消失。”
Anthropic 没有回应置评请求。
中国驻华盛顿大使馆发言人表示，中国“一贯、坚决”反对一切形式的网络攻击。
“我们希望有关方面采取专业和负责任的态度，根据充分的证据来定性网络事件，而不是毫无根据的猜测和指责，”刘鹏宇告诉半岛电视台。
墨尔本大学计算机安全专家 Toby Murray 表示，Anthropic 有商业动机来强调此类攻击的危险及其应对能力。
“有些人对 Anthropic 的说法提出质疑，Anthropic 声称攻击者能够让 Claude AI 执行高度复杂的任务，而人工监督比通常需要的要少，”穆雷告诉半岛电视台。
“不幸的是，他们没有向我们提供确凿的证据来准确说明执行了哪些任务或提供了哪些监督。因此很难对这些说法做出这样或那样的判断。”
尽管如此，默里表示，考虑到一些人工智能助手在编码等任务上的效率，他并不觉得这份报告特别令人惊讶。
“我不认为人工智能驱动的黑客行为会改变即将发生的黑客行为，”他说。
“然而，它可能会带来规模的变化。我们预计未来会看到更多由人工智能驱动的黑客攻击，并且这些黑客攻击会变得更加成功。”
分析师表示，虽然人工智能将对网络安全构成越来越大的风险，但它对于加强防御也将发挥关键作用。
哈佛大学专门研究计算机安全和人工智能安全的研究员 Fred Heiding 表示，他相信从长远来看，人工智能将为网络安全专家提供“显着的优势”。
“如今，许多网络行动因网络专业人员短缺而受阻。人工智能将使我们能够大规模测试所有系统，从而帮助我们克服这一瓶颈。”海丁告诉半岛电视台。
海丁称 Anthropic 的说法大体可信，但“言过其实”，他表示，最大的危险是，随着安全专家努力追赶他们对日益先进的人工智能的利用，黑客将有机会肆意妄为。
“不幸的是，防御社区可能进展太慢，无法将新技术应用到自动化安全测试和修补解决方案中，”他说。
“如果是这样的话，攻击者只需按一下按钮，就会在我们的防御系统有时间赶上之前对我们的系统造成严重破坏。”
