Cursor多智能体三周优化235个英伟达GPU算子,最佳成绩逼近硬件极限
· ME 快讯
ME News 消息,4 月 15 日(UTC+8),据 动察 Beating 监测,AI 编程工具 Cursor 披露其多智能体系统与英伟达的合作实验。该系统在 27 块 Blackwell B200 GPU 上自主运行三周,针对从 DeepSeek、Qwen、Gemma 等超过 124 个生产级开源模型中提取的 235 个真实算子优化问题,从零编写并优化 GPU 算子代码,整体实现 38% 的几何平均加速。 GPU 算子优化是软件工程中门槛最高的领域之一,要求工程师精通芯片架构、汇编级指令和内存调度,一个高性能算子通常需要资深专家数月甚至数年打磨。Cursor 的多智能体系统一次性处理全部 235 题:一个规划智能体分配任务并根据性能指标动态调度,多个工作智能体并行优化,系统自行调用英伟达的 SOL-ExecBench 基准测试管道形成「测试、调试、优化」自动循环,全程无人干预。系统分别用 CUDA C(含内联 PTX 汇编)和 CuTe DSL 两种语言各跑了一轮,前者测试最底层硬件推理能力,后者测试学习公开训练数据中几乎没有的新 API 的能力。 235 题中,系统在 149 题(63%)上超越基线,其中 45 题(19%)加速超过 2 倍。三个代表性结果: 1. BF16 分组查询注意力(提取自 Llama 3.1 8B 推理场景):较人工优化的 FlashInfer 库快 84%,SOL 得分 0.9722,接近硬件理论极限(满分 1.0) 2. BF16 矩阵乘法:从零生成的算子达到英伟达 cuBLAS 手工调优性能的 86%,在 LLM 推理解码常用的小 M 场景下反超基线最多 9% 3. NVFP4 混合专家层线性运算(提取自 Qwen3 等 MoE 模型):系统自主识别 4 位浮点量化瓶颈并做针对性融合优化,加速 39% Cursor 坦承整体中位 SOL 得分仅 0.56,仍有大幅提升空间,主因是 GPU 资源有限(235 题共用 27 块 GPU)。Cursor 称这些多智能体技术「将很快融入核心产品」。一家 IDE 公司的 AI 智能体已经能在汇编级别的 GPU 优化上逼近人类顶尖专家,这比「帮你写应用代码」的故事大得多。 (来源:BlockBeats)