技术方向
让 AI 可控、可信、不被滥用：越狱与防御、模型行为研究、安全评测与治理框架。
8 条精选近 30 天 8 条共收录 17 条
Epoch AI 研究人员发现，开源权重模型 GLM 5.3 能在无人工输入的情况下，针对 9 月 17 日至 10 月 26 日发布的 6 个 Firefox 版本自主构建完整漏洞利用链，每次成功攻击的 API 费用约 1000 美元，最快一次耗时 12 小时。
推荐理由：Epoch AI 的实测显示开源权重模型可自主完成浏览器漏洞利用链，为评估开放模型的攻击面提供了具体成本与时间参照。
Mistral 开放了万亿参数开源模型 Mistral Large 4（ML4）的权重，企业和政府机构可在 Hugging Face 下载或通过 API 调用，自行部署用于网络安全防御。
推荐理由：Mistral 开放万亿参数模型权重，并给出与 GLM-5.3 的 token 消耗对比，可观察开源权重在网络安全场景的落地方式。
Google DeepMind 在 Argon 发布两周后推出 Gemini 4 Carbon，称其在网络安全与长周期任务上达到 SOTA，在 Artificial Analysis Intelligence Index v5 上以 59 分排名第一。
推荐理由：汇总了 Gemini 4 Carbon 在多个独立榜单上的位置与定价，并列出编码、幻觉和访问限制方面的反差。
Google DeepMind 在 Argon 发布两周后推出 Gemini 4 Carbon，该模型在 Artificial Analysis Intelligence Index v5.0 上以 59 分登顶，前代 Argon 为 50 分。
推荐理由：文章用多个第三方榜单和成本数据，呈现 Carbon 相对 Argon 的提升与在智能体编码上仍落后 Claude 的位置。
Google DeepMind 与新加坡政府科技局（GovTech Singapore）合作，基于轻量级 Gemma 模型微调出一个保护隐私的端侧诈骗检测模型，并在 SICW 2026 上展示。
推荐理由：原文披露了端侧反诈模型的两阶段流水线和数据隔离做法，可供关注隐私保护与端侧部署的团队参考。
Google DeepMind 开始广泛推送 Gemini 4 Argon，并同步扩大 Fairwind Program 的受信任网络安全防御者范围。该模型在 12 个端到端模拟网络攻击场景中全部通过，上一代为 5 个；在对抗测试集上违规请求减少近两倍。
推荐理由：原文披露了 Gemini 4 Argon 在网络安全与生物风险上的防护分层，以及智能体越界监控的具体做法。
Google DeepMind 发布前沿模型 Gemini 4 Argon，面向开发者、企业和科研人员开放，API 定价为每百万输入 token 2 美元、每百万输出 token 10 美元，缓存输入 token 享 95% 折扣。
推荐理由：官方给出多领域基准排名、内部工程与科研落地案例和定价，可据此判断前沿模型在专业工作流中的位置。
GitHub 发布与 Microsoft Applied Sciences 合作微调的 ModernBERT 分类器，用代码上下文识别无固定格式的密钥，候选批次评估耗时不到 2 毫秒，可将可拦截的密钥数量提升一倍以上。
推荐理由：GitHub 用九个季度的数据说明密钥泄露压力来自代码量增长，并给出用分类器把防护前移到 push 环节的思路。