LLM Wiki

Appearance

Built 26/04/17 09:31commit 4c9ce40

Claude Mythos Preview 网络安全能力评估 ​

中文 | English

摘要 ​

这份来源认为，Claude Mythos Preview 在进攻性网络安全能力上出现了明显跃迁：Anthropic 声称该模型已经能够发现并利用真实零日漏洞，旧基准已接近饱和，因此评估方式必须转向真实世界漏洞发现与更谨慎的防御侧发布策略。

来源 ​

关键贡献 ​

  • 把模型安全评估从“复现已知漏洞”推进到真实代码库中的实时零日发现。
  • 描述了一种简洁但有效的 scaffold：按文件分配的自主搜索、强 crash 或 exploit 判定信号，以及一个用于过滤低价值报告的最终确认 agent。
  • 认为前沿模型已经把漏洞发现、利用开发、逆向分析和逻辑漏洞识别组合到了足以改变发布和披露姿态的程度。
  • 把面向关键防御方的受限开放，视为同类能力扩散前的过渡策略。

核心判断 ​

  • 即使没有显式做 exploit 训练，编码、推理和自主性的一般性提升也会带来进攻性网络安全能力的陡增。
  • 当基准测试趋于饱和后，要区分记忆复现与真正的新能力，就必须转向真实世界评估。
  • 独立确认步骤仍然重要，因为“技术上成立”的发现不等于“严重且广泛重要”的漏洞。

对当前知识库的启发 ​

  • 与 harness 评估相关的页面应明确区分“基准复现能力”和“开放式真实任务能力”。
  • 在错误自信代价很高的场景下，独立 evaluator 或确认流程仍然值得保留。
  • 安全敏感能力的提升，可能需要比普通编码能力更强的发布闸门和更窄的开放范围。

相关页面 ​