技术方向
让 AI 可控、可信、不被滥用：越狱与防御、模型行为研究、安全评测与治理框架。
3 条精选近 30 天 3 条共收录 82 条
METR审计认为，Anthropic模型改进速度约翻倍，其中约80%可能源于AI参与公司内部研究，因此可能在去年7月越过其 Responsible Scaling Policy 的警示阈值。审计基于2026年8月12日至10月29日的内部数据，真实加速倍数估计在1.3至3之间；Anthropic删除了多数高价值证据，且取消了对算力分配的核查。
推荐理由：METR披露了Anthropic内部模型加速与AI辅助研究的关联，也揭示关键证据被删减带来的审计不确定性。
OpenAI 发布专用于寻找软件安全漏洞的 GPT-6 Cyber，可在指定边界内发现漏洞、生成可用攻击程序并建议修复方案。该模型在 ExploitGym 的得分为 48.5%，并在 Firefox 和 Linux kernel 真实安全研究中取得结果；相关基准数据均来自 OpenAI，尚无独立测试发布。
推荐理由：材料汇总了模型能力、安全边界和真实漏洞挖掘数据，也说明相关基准目前仅由 OpenAI 自行测试。
OpenAI 用尚未发布的网络安全模型和 AI Agent 流水线，在 10 天内发现并验证 948 个可获取 root 权限的 Linux 内核本地提权漏洞，总 API 成本为 120万美元。
推荐理由：文章拆解了多智能体扫描、验证和利用 Linux 漏洞的自动化流程，并提供成本、命中率与社区修复进展。