千亿参数大模型：规模、开放程度与部署成本

数据截止：2026 年 9 月 6 日，北京时间。范围：总参数至少 100B 的通用语言、推理、代码及视觉语言模型；同一模型的量化版和部分日期快照合并。资料来自官方模型卡、许可证与原始论文。本报告为技术研究。

配套报告：全球旗舰能力与价格对比。

最重要的结论

千亿参数并不等于每次都计算千亿参数，也不等于比小模型更强。 当代很多大模型采用混合专家架构（MoE），权重总量决定存储规模，每次激活的参数只占其中一部分。与此同时，现代后训练、数据、工具与推理预算足以使参数较小的模型在特定任务中超过较大的模型。

开源状态必须按具体模型及版本判断。 DeepSeek-V4、Qwen3.5、Hy3、Command A+、K-EXAONE 2.0 有较宽松的权重许可；Kimi K3、Qwen3.8-2.4T、GLM-5.3、MiniMax M3 等附有不同商业条件。更早的 DeepSeek-V3 初版也不能自动按后来 V3.1/V3.2 的 MIT 许可处理。逐项来源见以下清单。

本清单覆盖主要可核实产品、开放权重及历史研究模型，不声称穷尽全世界所有训练实验、合并模型与社区微调。没有公开参数的旗舰不会被猜测成“万亿模型”。

计数规则：先把 B、T 和激活参数分开

本文主表优先采用开发者公布的模型规模。附加预测层（MTP）、视觉编码器、嵌入层及量化相关张量是否计入，不同来源可能不同，因此保留“约”“主干”“仓库张量统计”等标签。训练语料 tokens 数、上下文长度和参数个数是三件不同的事。

当代万亿级模型

“开放”只回答权重是否发布及许可证性质，不代表完整训练数据和训练流水线都已开放。许可证摘要见后文。

Ling/Ring 的底座参数是架构信息来源，不把它们的聊天效果与 base 模型效果混同。Qwen3.8 仓库张量统计约为 2.446T、Kimi K3 约为 2.780T，和官方四舍五入的 2.4T、2.8T 不构成天然矛盾。量化、共享参数与额外层的计数需要查具体定义，不能仅凭模型文件大小反推模型能力。

500B 至 999B：大型集群部署区间

GLM-5.3 与 GLM-5.2 的仓库参数张量计数均为 753,329,940,480。这个精确数用于核实“属于千亿以上”，不等同于已经解决 744B 主干与附加层之间的全部工程计数差异。本报告没有擅自把 GLM-5 的 40B 激活量当成 5.3 官方重新确认的参数。

200B 至 499B：开放大模型最密集的区间

100B 至 199B：相对可接近的千亿级部署

“相对可接近”仍然可能需要大内存工作站或多卡服务器。以 4 bit 保存 122B 权重的理想体积就约 61GB，尚未包含缓存与运行开销。

本表特意区分名称与实际参数：例如 gpt-oss-120b 不应精确写为 120,000,000,000 个参数；Solar Open 100B 也并非恰好 100B。

已披露规模，但不能当作可下载的当前旗舰

Grok-2 的权重确已公开，采用 Grok 2 Community License；网络常见“270B 总量 / 115B 激活”来自社区按结构计数，本次未把社区算术当作厂商正式参数披露，故列作补充而不放进精确排序表。官方权重卡。Llama 4 Behemoth 等曾公开预告的超大模型，也不能仅凭发布演示就标成已经能下载。本次未完成其当前独立权重发布的确认，不列入可下载清单。

这些旗舰的参数不能编

“它很聪明，所以应该有几万亿参数”不构成证据；“API 很便宜，所以模型一定很小”也不成立。价格还受硬件效率、调度、量化、缓存、补贴与商业策略影响。

开源到底怎么看：权重许可速查

最关键的自定义许可条款：

• Kimi K3：MaaS 经营者及关联方连续 12 个月总收入超过 2,000 万美元时，商业使用需另行协议；另有规模署名要求及内部使用、官方渠道例外。原文
• Qwen3.8：经营 MaaS 或独立 AI 编程/办公助手业务，且本人及关联方连续 12 个月合计总收入超过 5,000 万美元时需另行许可，条文规定内部使用例外；达到另一个月活/月收入门槛时需展示模型名。原文
• GLM-5.3：MaaS 经营者及关联方连续 12 个月合计收入超过 100 亿美元，商业使用前需安全审查。Flash 版为 MIT，不能混同。原文
• MiniMax M3：商用需署名并通知，相关产品/服务年收入超过 2,000 万美元需预先书面授权；有用途限制。原文
• Mistral Medium 3.5 / Devstral 2：前一月全球合并收入超过 2,000 万美元的公司/雇主不能直接依 Modified MIT 使用，需商业许可等安排。Medium 许可、Devstral 许可

这些是阅读摘要，不代替完整许可证。严格意义上的开源 AI 还需要满足模型修改所需代码、参数和数据信息等要求；因此本报告使用“宽松许可开放权重”“附条件开放权重”等具体表述。OSI 定义。

千亿模型究竟需要多大内存

如果所有参数均以相同精度保存，仅权重的理论体积为：

参数个数 × 每个参数的位数 ÷ 8。

下表为十进制 GB，1GB = 10^9 字节。BF16/FP16 为 2 字节，8 bit 为 1 字节，4 bit 为 0.5 字节。表中量化是假设，不保证每款模型都有对应精度的可用、等质量实现。

以上已使用项目精确算术工具复核；不是采购配置。实际部署还要增加 KV cache 或线性注意力状态、量化 scale、激活、通信缓存、框架工作区与内存余量。不同 MoE 专家会在不同 token 被调用，不能只按“激活 13B”给 284B 模型准备 13B 权重的显存。也可以将部分权重放在 CPU 内存、磁盘或跨节点加载，但速度与并发会受内存带宽和互联影响。

例如，gpt-oss-120b 官方说明可以用原生量化方案运行在单块 80GB GPU 上；这不等于所有 120B 模型的所有精度、上下文与并发都能使用同一配置。Qwen3-235B 的模型卡则对约 1M 上下文给出约 1,000GB 总 GPU 内存的示例要求，说明缓存和运行配置的影响很大。gpt-oss 模型卡、Qwen3 长上下文说明。

从参数报告得到的选择结论

如果主要通过 API 使用，优先比较任务成功率、费用和延迟；厂商没披露参数并不妨碍评估。若要自行部署，先选择许可证和硬件预算，再筛模型能力。想试千亿级，不必从 Kimi K3 或 Qwen3.8 这样的数万亿模型开始；117B 至 196B 的稀疏模型已经提供多种推理和工具任务路线。

模型能力、参数规模、可下载性、商业授权，需要分别判断。 它们有关联，但任何一个都不能替代另外三个。

核查与局限

参数来自开发者模型卡或原始论文；GLM-5.2/5.3 等另外检查了官方仓库元数据。许可证以具体权重仓库的正文或明确链接为准，不能只看网页上的“open source”宣传词。对需要账号接受条款的仓库，只读取公开页面与元数据，没有替用户接受许可。

本次没有运行模型推理、下载全部权重或验证训练可复现性。部分模型的精确激活量、最新 API 与公开权重对应关系仍未披露；这些空白已保留。历史条目用于理解规模演进，不能直接放入当代能力排行榜。完整核查记录见 审计说明。