跳到正文
今天10月30日周五1 条
10月23日周五
  1. MIT Technology Review · AI20

    如何设计一套可持续演进的 AI 服务框架

    EXL 在《Engineering the Harness》系列中探讨企业 AI 的生产化挑战:决定智能能否可靠、经济、规模化交付的关键,是模型之外的 serving harness,涵盖架构、内存管理、调度与推理优化。文章主张从工作负载而非模型出发,先测量再优化,并以适配变化为目标,让换模型成为评估与配置决策而非架构重建。

10月14日周三
  1. Google DeepMind92

    Google DeepMind 发布 Gemini 4 Argon 模型

    Google DeepMind 发布前沿模型 Gemini 4 Argon,面向开发者、企业和科研人员开放,API 定价为每百万输入 token 2 美元、每百万输出 token 10 美元,缓存输入 token 享 95% 折扣。

    推荐理由:官方给出多领域基准排名、内部工程与科研落地案例和定价,可据此判断前沿模型在专业工作流中的位置。

7月29日周三
  1. Berkeley AI Research60

    从 CUDA 到 MLX:K-Search 如何把内核优化经验迁移到 Apple Silicon

    Berkeley Sky Lab 团队为 K-Search 演化式内核搜索框架新增 MLX 后端,并设计结构化 CUDA-to-MLX 翻译层,让搜索以现有 CUDA 内核为知识库生成 Apple Silicon 内核。

    推荐理由:作者把 CUDA 优化知识整理成结构化上下文,让演化搜索在 Apple Silicon 上接近专家内核水平,方法可迁移到其他硬件生态。

5月8日周五
  1. Berkeley AI Research38

    自适应并行推理:高效推理扩展的下一个范式

    伯克利 AI 研究团队综述并行推理进展,重点分析自适应并行推理:让模型自行决定何时分解并并行化子任务、开多少并发线程以及如何协调。现有 self-consistency、Best-of-N、Tree of Thoughts、MCTS 及 ParaThinker、GroupThink、Hogwild! Inference 等方法,其并行结构与搜索策略多由模型外部预先设定。

4月20日周一
3月13日周五