gpt-oss-20b 权重上线 Hugging Face,16GB 内存设备可跑
OpenAI 本周公开了 gpt-oss 系列开放权重模型,其中 gpt-oss-20b 的权重已在 Hugging Face 免费下载,原生量化为 MXFP4 格式,仅需 16GB 内存即可运行。同批发布的还有 gpt-oss-120b,需 80GB 内存,可在单张 80GB GPU 上跑起来。两个模型都兼容 OpenAI 的回复 API,支持工具调用与思维链输出。
按 OpenAI 公布的数据,gpt-oss-20b 在常见基准测试中的结果与 o3-mini 接近,官方给的定位是边缘设备、本地推理和快速迭代。gpt-oss-120b 则在核心推理基准上几乎追平 o4-mini。两个模型在 Tau-Bench 智能体评估和 HealthBench 测试中表现不弱,OpenAI 称其在部分项目上超过了 o1 和 GPT-4o 等闭源模型。模型支持按任务调整推理力度,面向智能体工作流设计,指令执行和函数调用是重点优化方向。
微软同步推出 Windows 本地版
微软为 Windows 设备推出了 GPU 优化版的 gpt-oss-20b,基于 ONNX Runtime 做本地推理,开发者可通过 Foundry Local 和 VS Code AI 工具包获取。这意味着在 Copilot+ PC 一类带 NPU 或独显的 Windows 机器上,跑 20b 这个尺寸的模型不需要额外搭服务器。对做端侧应用的人来说,部署路径从“下载权重自己配环境”缩短到“装个工具包直接调”。
50 万美元红队挑战赛
OpenAI 同时办了一场红队测试挑战赛,奖金池 50 万美元,面向全球研究人员、开发者和爱好者征集新型安全问题。评委来自 OpenAI 及其他实验室,挑战赛结束后会发布报告并开源基于验证结果的评估数据集。这套做法在开放权重发布里不算常见,把安全评估的环节外包给社区,再用奖金和数据集把结果沉淀下来。
回到 gpt-oss-20b 本身,16GB 内存的门槛意味着它能在不少消费级笔记本上离线跑。OpenAI 明确说目前没有为 gpt-oss 提供 API 支持的计划,但会持续看开发者反馈。对需要微调和完全可定制部署的团队,权重开放是眼下最直接的选项;对需要多模态和平台集成的场景,官方仍推荐走 API。
gpt-oss-20b 的实际表现,接下来要看社区微调版本和 Windows 本地推理的实测数据。
来源