由于潜在的网络安全风险,美国经济监管机构与智利金融市场委员会(CMF)正对 Anthropic 推出的全新 AI 模型 Claude Mythos 展开密切监控。该模型在软件工程及安全领域的先进能力,已引发了相关部门的警报。
智利阿道夫·伊比涅大学(UAI)工程与科学学院学者罗兰多·德拉克鲁斯(Rolando de la Cruz)警告称,该 AI 技术可能会助长快速且复杂的网络攻击。他在接受《Expreso Bío Bío》采访时表示,这项技术可能会导致关键基础设施遭受更大规模的破坏。
攻击性能力
德拉克鲁斯指出,尽管该技术在防御和攻击方面具有“双重用途”的潜力,但其目前的攻击能力已超过了现有的安全防御水平。“Claude Mythos 在网络安全领域拥有极强的攻击性,其演进速度快于防御手段,”德拉克鲁斯说道。
该 AI 模型能够识别系统内部的漏洞,并生成快速的利用指令。这种能力显著降低了恶意攻击者的技术门槛。
“过去,想要从事黑客活动的人需要掌握非常深奥的系统编程知识。而现在,不再需要了,”德拉克鲁斯补充道。
鉴于上述风险,Anthropic 已限制了该模型的公众访问权限。目前,该模型仅通过邀请制开放。Anthropic 的研究与安全部门已实施这些限制措施,以防范可能出现的大规模系统入侵风险。