DeepSeek开源内部推理框架，让大模型产业的焦点从模型能力转向推理成本。

根据官方揭露的单卡收入与外界设定的算力成本，科技投资研究员推算，其推理服务毛利率最高可能超过95%。不过，相关估算主要反映收入与硬体成本的差额，并不代表公司整体获利水准。

DeepSeek周二(20日)宣布，开源内部推理框架DeepInfer，以及Token编解码工具deepseek-recipe。

DeepInfer用于DeepSeek V4.1-Flash的大规模推理，目标是在降低延迟的同时提高吞吐量，支援辉达（NVIDIA）GPU与华为升腾NPU，采用Apache-2.0开源授权。

开源推理框架 聚焦降低成本

这次开源受到关注，关键之一是DeepSeek同步揭露的推理服务收入。根据其在GitHub发布的部署问答，V4.1-Flash单一丛集每天处理155兆Token，以离峰时段价格计算，每GPU小时收入达38美元，为外界估算推理业务的获利空间提供依据。

海外科技投资研究员Zephyr在社群平台X上推算，DeepSeek推理毛利率可能介于84.2%至96.1%，较最初估计的87.76%至96.94%有所下修。

其初步模型假设，总Token流量中，97%为命中键值快取的输入、2%为未命中快取的输入，另有1%为模型产生的输出。其中，快取输入单价较低，所需运算负载也较轻。

在这种流量结构下，Zephyr结合官方公布的单卡极限吞吐量，包括预填充每秒8万Token、解码每秒1.6万Token，推算一张GPU满载运作时，每小时理论收入最高约49美元。

若算力成本介于每小时1.5至6美元，硬体层面的推理毛利率便落在87.76%至96.94%。

不过，这是理想负载下的估算。Zephyr随后依官方揭露的每卡每小时实际收入约38美元，以及生产环境效能约为基准测试80%等资讯，将毛利率区间修正为84.2%至96.1%。

换言之，最高超过95%的推算，核心在於单卡收入与假设算力成本之间的庞大差距，结果仍取决于实际流量、快取率与硬体成本。

高毛利推论 延伸至OpenAI与Anthropic

这项测算也引发外界对其他AI实验室API获利能力的讨论。科技投资观察人士Alex Corrino提出，顶尖AI实验室的API毛利率可能普遍超过80%；Zephyr则进一步认为，OpenAI与Anthropic部分主流模型的API毛利率可能达95%。

投资分析师Scott将这套逻辑延伸至订阅服务。根据研究机构SemiAnalysis的实测，Anthropic高阶订阅方案Claude Max提供的可用Token额度上限，按官方API单价换算，可达订阅费的58.6倍，曾引发高用量用户可能侵蚀平台利润的疑虑。

Scott另以API硬体毛利率达99%为假设，推算即使用户用完全部额度，每支付1单位订阅费，对应硬体成本也只有0.586单位，仍可留下41.4%的硬体层面毛利。

依其模型，API硬体毛利率只要维持约98.3%以上，即使用户用满额度，订阅收入仍可支应相应硬体成本。

然而，99%是这项推演设定的前提，并非已获证实的Anthropic实际毛利率，也不能据此确认其整体业务已获利。

软体提高吞吐 与专用晶片路线较劲

DeepInfer也让业界重新比较不同的推理降本路线。

产业观察人士指出，以Groq为代表的LPU客制化硬体，透过板载SRAM追求极低延迟与高速生成，但记忆体容量有限，承载主流大模型时，需要堆叠更多硬体板卡并串接大量节点，推高采购门槛与单Token硬体折旧成本。

相较之下，DeepInfer展示的是在通用GPU与升腾等商用NPU上，透过软体调度提高并行处理能力与吞吐量，以较低的综合硬体成本，扩大规模化API服务的利润空间。

推理毛利不等于公司获利

多位产业观察人士提醒，上述高毛利测算主要聚焦Token售价与单卡硬体消耗之间的差额，未纳入前期模型研发与训练支出、全球节点高速频宽成本，以及系统工程团队薪资。

若要判断每GPU小时38美元收入究竟能留下多少利润，仍需掌握硬体折旧、能源、网路、快取储存及维运等完整成本。

接下来的关键，是开源框架能否在不同硬体与实际业务负载下，稳定提高吞吐量、降低每个有效输出Token的成本。

DeepSeek也仍需提供更多成本与资源利用率数据，外界才能判断这些高毛利估算，距离真实营运表现有多近。