Nanbeige4.3‑33B开放权重:先造强教师,再把Agent能力蒸馏进3B小模型

BOSS直聘旗下Nanbeige大模型实验室发布Nanbeige4.3‑33B。这是一款约330亿参数的稠密语言模型,支持最长512K Token上下文,重点面向编程Agent、工具调用和专业办公任务,并以Apache 2.0许可证同步开放对话模型与基础模型。官方评测显示,它在20项约30B规模模型对比中有17项排名第一,例如Terminal‑Bench 2.1得80.9分、DeepSWE得65.5分;但在SWE‑Bench Pro、GDPval和GPQA Diamond上仍落后于部分对手。更值得关注的是发布策略:Nanbeige先训练一款能力较强的33B“教师模型”,再把Agent能力蒸馏进即将推出的Nanbeige4.3‑3B。不过,现有成绩均由发布团队自行测试,尚无独立复现;模型卡也未披露训练数据、训练算力、强化学习方法和完整安全评估。

文章作者、来源:Nanbeige Team

33B模型不是终点,而是一位“教师”

Nanbeige4.3采用一条与常见“小模型直接训练”不同的路线:先构建一款容量较大、Agent能力较强的教师模型,再利用它产生的数据、轨迹或其他监督信号训练更小的模型。

本次发布的Nanbeige4.3‑33B就是这位教师。团队称,后续蒸馏管线将从Nanbeige4.3‑3B开始,希望把编程、工具调用和长任务执行能力压缩进更容易部署的尺寸。3B模型目前尚未发布,发布时间、蒸馏数据规模和能够保留多少教师能力也没有公布。Hugging Face

这一路线的现实意义在于,330亿参数模型虽然远小于数千亿参数的旗舰模型,但依然不算轻量。Nanbeige4.3‑33B是稠密模型,每次生成Token都要使用全部参数,而不是只激活一部分专家的混合专家模型。

模型权重采用BF16格式。按照每个参数约2字节粗略计算,仅权重就约需66GB存储或显存空间,实际推理还要为KV Cache和中间状态留出更多容量。官方的SGLang与vLLM示例均使用四卡张量并行,说明“30B级开放模型”并不等于普通消费级显卡可以无条件满上下文运行;量化能够降低门槛,但速度、精度和512K长上下文能力需要分别验证。

20项自评中17项领先,但“30B最强”有明确边界

Nanbeige将新模型与Qwen3.8‑27B、Muse‑Glimmer‑30B和Gemma4‑31B进行比较。官方称所有模型均启用最高思考强度,并在同一套推理参数和Agent框架下测试。

在编程Agent方面,Nanbeige4.3‑33B的Terminal‑Bench 2.1成绩为80.9,Qwen3.8‑27B为73.0;Terminal‑Bench 4.0分别为23.8和6.3;DeepSWE分别为65.5和42.5。NL2Repo、Scicode、SkillsBench等项目也由Nanbeige领先。

不过,同一张表也保留了不利结果:SWE‑Bench Pro上,Nanbeige为60.3,低于Qwen的61.7;GDPval为84.8,也低于Qwen的86.4;科学推理测试GPQA Diamond中,Nanbeige得到89.5,而Gemma4‑31B为91.3。

因此,官方所称“约30B规模开放模型中的先进水平”,只能理解为在指定对手、指定Agent框架和指定推理设置下的综合结论,不能扩展成“超过所有开放模型”,更不能说明它已经胜过闭源旗舰模型。

评测环境本身也影响结果。例如,Terminal‑Bench 2.1使用Terminus 2;Terminal‑Bench 4.0和DeepSWE使用mini‑swe‑agent;NL2Repo运行在Claude Code框架中;SWE‑Atlas‑QnA则由GPT‑6 Sol按照1304条任务专用规则判分。模型能力、Agent脚手架、工具权限和裁判模型的效果并不能完全分离。

这些成绩目前均由Nanbeige团队公布,尚未看到第三方在相同硬件、Token预算和脚手架下完成完整复现。

“Cowork”指模型替人操作工具,不只是写一段文案

Nanbeige把另一组测试称为Agentic Cowork,覆盖办公自动化、搜索、规划、企业操作和多轮工具调用。

其中,Automation Bench成绩为54.2,Qwen3.8‑27B为38.3;JobBench为44.8对34.5;DeepPlanning为63.3对49.2。Tau3‑Bench和EnterpriseOps‑Gym上的领先幅度则很小,分别只有0.3和0.8分。

JobBench进一步覆盖35类职业。发布方称,模型在多数职业类别中领先,尤其是技术写作、网站管理、内容制作和线上商业任务;但医疗管理、行政助理、客服等类别仍明显落后于Qwen。换言之,“职业任务综合分更高”并不表示它已经能同等可靠地胜任每一种办公室工作。

512K上下文服务于长任务,但不是免费的容量

模型最长支持524,288 Token上下文。其聊天模板提供两个与Agent相关的开关:

enable_thinking决定当前回答是否生成推理内容;preserve_thinking决定多轮对话中是否保留此前的思考记录。官方建议普通问答关闭后者,而在连续工具调用、办公和代码Agent工作流中开启。此外,模型同时支持XML和JSON工具调用格式,官方更推荐XML。

保留此前推理可以减少长任务中反复建立计划的问题,但也会扩大上下文、增加推理成本,并可能把早期错误带入后续步骤。512K只是模型声明的最大容量,并不意味着它能在所有位置保持相同召回率,也不表示在普通硬件上使用完整窗口仍然经济。

官方称模型在主流Agent框架中具有较好的成本效率,但原帖和模型卡都没有公布实际吞吐量、每项任务Token消耗、硬件配置对比或API价格。因此,“成本有效”目前无法像基准成绩一样进行量化核实。

Apache 2.0权重降低了使用限制,训练过程仍不透明

对话模型与Base基础模型均采用Apache 2.0许可证。相较只能研究、禁止商用的开放权重模型,这一许可证通常允许商业使用、修改和再分发,但使用者仍需遵守版权声明、许可证文本和商标等具体条件。两个模型均已提供Safetensors权重,并给出Transformers、SGLang和vLLM运行方法。

Base版本让其他团队可以自行进行指令微调、领域后训练或Agent强化学习。官方自评称,它在列出的MMLU‑Pro、GPQA、数学、MBPP、MMLU及CMMLU等八项基础能力测试中均领先Gemma4‑31B‑Base,但对比对象只有这一款模型,同样不足以建立完整的基础模型排名。

目前模型卡没有交代预训练数据构成、数据截止日期、训练Token数、训练算力、后训练轨迹来源及安全测试。它也没有公开一份完整技术报告。因此,外界能够检查权重、部署方式和输出行为,却还无法判断性能提升主要来自预训练规模、数据质量、强化学习、工具轨迹还是特定评测优化。

Nanbeige4.3‑33B真正值得关注之处,并非单独刷新某项榜单,而是把“大教师Agent—小模型蒸馏”明确变成一条产品路线。如果后续3B模型能以显著更低的硬件成本保留大部分工具调用和长任务能力,这套策略才算得到关键验证;在那之前,33B模型提供的是一个可下载、可商用、但仍需社区独立复测的教师起点。