跳到正文
7月30日周四
7月29日周三
  1. Berkeley AI Research

    从 CUDA 到 MLX:K-Search 如何将数十年的内核专业知识引入 Apple Silicon

    【AI 翻译 · 未评分】图 1:CUDA 到 MLX 优化转换映射。CUDA 优化知识可以转换为架构原生的 MLX 策略,而非逐指令复制。我们正面临计算的新纪元。硬件正在快速变化——不仅是更快的 GPU,还有来自不同供应商的日益增长的芯片范围,每种芯片都有其自身的架构,通常针对特定的 AI 工作负载量身定制。软件也在同样快速地变化,AI 编码工具现在能在几分钟内生成几年前需要数月努力才能完成的内容。随着计算重心转向 AI,GPU 内核成为其成功的关键组件。这些是在 GPU 内部运行的底层程序,编写高效的内核绝非易事——这需要多年的专业知识才能做到。将内核从一个供应商的硬件转移到另一个供应商的硬件更加困难,往往意味着从头重新发现相同的优化。例如,CUDA 生态系统积累了数十年来之不易的内核专业知识:注意力机制、状态空间模型和其他关键操作的手动调优实现,代表了数千个工程小时。较新的硬件生态系统(Apple Silicon、定制 AI 加速器及其他)增长迅速但缺乏这种深度。在这项工作中,我们探讨这种专业知识是否可以自动转移。我们基于 K-Search 构建,这是由 Berkeley Sky Lab 的 Cao 等人引入的一个进化内核搜索框架,使用 AI 来优化 GPU 内核,并为其扩展了 MLX 后端——Apple 为其自有 Apple Silicon 芯片提供的机器学习框架。我们开发了一种新颖的结构化 CUDA 到 MLX 转换层,让 K-Search 能够将现有的 CUDA 内核作为知识库,并将其改编为适用于 Apple Silicon 的高质量 GPU 内核,而不是从头重建。我们展示了我们的方法在 Apple Silicon 上达到了接近专家水平的性能,与原生 MLX Attention 内核相比速度提升为 0.97x,预填充速度最高提升达 20x...

7月28日周二
7月27日周一
7月26日周日
  1. Berkeley AI Research

    教导 LLM 更新信念以实现高效的长时程交互

    【AI 翻译 · 未评分】ABBEL 与传统递归摘要的概述。信念取代完整的交互历史作为代理的工作上下文,信念评分通过监督每个信念状态的内容来提高性能。随着任务时程的增长,LLM 上下文无法无限扩展。自我摘要实现了简洁、可解释的上下文,但带来了显著的性能成本,特别是在高质量数据稀缺的人类协助领域,如协作代码生成。我们通过 ABBEL 解决这一问题:这是一个以自然语言信念状态形式隔离和监督摘要信息内容的框架。动机:递归摘要的成本。为了有效协助处理日益复杂的任务(如软件开发),语言模型必须能够与我们进行数百甚至数千步的交互。对于此类长任务,将整个交互历史保留在上下文中是不切实际的。此前使用的启发式方法是生成摘要,有时称为上下文压缩。例如,Cursor 最新的模型 composer 2.5 在训练期间使用压缩以提高性能(Cassano et al., 2026)。除了 composer,Grandcode(DeepReinforce et al., 2026)是第一个在在线编程比赛中始终击败所有人类竞争对手的系统,尽管使用了最新的高效注意力模型之一(Qwen 3.5-397B),仍然发现有必要采用上下文摘要。但压缩存在问题。尽管基准测试中看似性能差距很小,像 Cursor 这样的模型服务器继续建议用户在任务中途避免对编码助手使用压缩(Heule et al., 2026)。要理解原因,请看下文 RL 微调期间上下文摘要模型与完整上下文模型在 Combination Lock(一款允许最多 16 次猜测的类 Wordle 游戏)上的性能对比。虽然两种模型类型在训练过程中都有改进...

7月23日周四
  1. OpenAI News

    在 ChatGPT 中推出健康功能

    【AI 翻译 · 未评分】ChatGPT 中的健康功能现在允许符合条件的美国用户安全地连接医疗记录和 Apple Health,以获得更个性化的见解并更好地了解他们的健康状况。

7月22日周三
  1. OpenAI News

    介绍 OpenAI Presence

    【AI 翻译 · 未评分】介绍 OpenAI Presence,这是一个经过验证的企业级 AI 代理平台,帮助组织部署用于客户和内部工作流的可靠语音和聊天代理。

7月21日周二
7月20日周一
7月17日周五
  1. OpenAI News

    AI 时代的记分卡

    【AI 翻译 · 未评分】OpenAI 首席财务官 Sarah Friar 介绍了一种实用的 AI 记分卡,通过有用工作量、每次成功任务的成本、可靠性和计算回报率来衡量 ROI。

7月16日周四