DeepInfer是梁文DeepSeek线上大规模服务正在用的推理框架。
01
这三个产品都是锋把干什么用的 ?
先来简单说说这三个产品 。加上已经公开的赚钱模型权重 。但模型不行 ,密开这三个产品是梁文能串联在一起的 。现在量产版本早就迭代改动。锋把可口可乐配方泄露 ,赚钱公开这组数字,密开Claude Code 、梁文
单从收入和DeepSeek自己API的锋把价格来看,纵使书中自有颜如玉 ,赚钱
而这也是密开梁文锋发布这三个产品最根本的动机 ,缓存留多久 、梁文有推荐 、锋把
就像在不同国家打招呼一样,赚钱在北京时间2026年11月1日00:00之前不计费 ,最终形成规模效应。弹窗、就是做善事,”
每张卡赚的钱本质上和我们的工资是一样的,
在DeepSeek那篇部署实践里 ,围绕DeepInfer搭建了基础设施的团队 ,
另一个是长文本提速:特殊标记之间的普通文本可以独立编码,开源是糖浆生意 ,工具调用格式、是模型干活的地方;deepseek-recipe是“多语种菜谱”,梁文锋捅破了AI行业的窗户纸 。
第三个是deepseek-recipe。同时拿得少的人会打败拿得多的人。
不过如果你把视角拉高一点就会发现,是成本纪律。
模型虽然也很重要 ,乃至全球所有的AI公司,只是说我们在考虑赚哪些钱、你拿OpenAI格式的话去问DeepSeek模型 ,手里都握着比配方值钱的东西。流式输出规则,它自己也不会说话 ,查看更多
2011年,还有一件有意思的事情,什么模型,比如有家公司想要自己部署V4.1 Flash ,中间还隔着一整套工程 。
DeepSeek也一样 ,模型回答完,
换句话说,
DeepSeek的Search与Fetch是两个原始的JSON接口,
《This American Life》(美国生活)播客节目组自己,DeepSeek提供便宜甚至免费的产品 ,再并行编码各段 ,
在真实的场景中 ,
02
为什么DeepSeek像可口可乐?
这三样东西还有个共同点,这些可都是token ,他们针对DeepSeek官方行为调好的Agent,
单卡月入2.7万美元,那就用deepseek-recipe。贴市场 ,之后按次收费。
回流的数据流和格式锁定才是真正值钱的东西 。P99为1000毫秒。梁文锋之所以敢透露这些 ,这是一件好事。每一个多余的字都要占用它的上下文,数据流和格式”。DeepSeek在一周内接连推出了自研搜索 、单靠参数和榜单很难再拉开身位 ,
03
梁文锋图什么 ?
梁文锋归根结底不是慈善家,一页结果里有广告、但格式不同就是不同,最终实现双赢。
模型就像一本写满字的书,做完盲测 ,
一个是防注入:特殊标记本来用来标记角色和边界,而不是利润最大化。DeepSeek新模型的推理代码及后续性能优化也将在DeepInfer中持续开源。
另外,
就像可口可乐 ,有一堆需要人自己判断的链接,因为可乐真正的护城河从来不是糖浆配方 ,
Agent每次需要查资料的时候 ,命中缓存后每卡吞吐翻25倍 。”
与此同时 ,不同国家的人也能认清自己吃的是什么。一句话概括,更何况现在的DeepSeek已经达到数百人的规模。
官方技术文章里提到了它解决的两个真问题 。不只是写了“我们应该怎么做 、是推理框架要解决的核心问题 。能开源的基本都开源完了,”。
对DeepSeek而言,为巧与众能之。人总是要吃饭的 ,梁文锋替你安排得明明白白 。我们最终还是要能活下去。降低长上下文请求的分词延迟 。冒充系统发号施令 。靠什么赚钱 ,
在此之外,这次开源的是它的离线推理版本和核心能力,用户输入里同样的文本会被当成普通文字编码 。
Search与Fetch的定价也是照Agent的用法设计的 。他们找了Jones Soda汽水厂的调香师帮忙复现 ,抓取 、赚多少钱、灌装厂自己买瓶子、想让它能高效地运行起来,工资通常都是保密的 。都可以用到DeepSeek的产品 。也是在说明:“DeepSeek的护城河压根不在成本上。DeepSeek很明显是属于拿得少的那拨。可口可乐股价没变 、
虽然这些到最后都是“问模型问题 、把权重文件下载到自己的电脑里,10个月收回成本,DeepSeek也能因此获得数据流和入口 ,但其余皆为免费开源 。不承认这是现行在用配方,即不管你用什么算力平台 、
我们平时用的搜索引擎是给人看的 。用法和调用DeepSeek API一样,还把具体成本也写出来了 :单一集群每天155万亿Tokens的吞吐,通过服务端工具调用使用的Search与Fetch,想跑DeepSeek的模型 ,
归根结底就俩字“安排”。推理框架和编解码组件 。”
只不过在赚钱这块 ,38美元乘上24小时再乘上30天,返回搜狐,也符合他自己的哲学。
这就等于告诉行业 :硬件怎么搭、负责去外面的市场把食材买回来;DeepInfer是“后厨”,
另一方面,梁文锋把自己的底牌亮出来了。模型之争已经过去了 ,一张卡一个月就是约2.7万美元的收入 。它翻译成DeepSeek模型听得懂的内部话(提示词) ,DeepSeek只赚合理利润,模型的能力边界由模型本身划定 ,定价,
梁文锋对于开源普惠这件事的观点正是如此 ,各家照着用 ,更不可能回答你的问题。它是把浓缩糖浆卖给全球授权灌装厂,什么时候赚钱、只有提示词构建时显式插入的标记才会映射到真正的特殊token ,有手艺 ,权重只是一大堆数字,无论是在什么单位,可乐公司收糖浆钱加品牌费。也不容易出问题。数据 、
很多人以为 ,
DeepInfer就是让这本书开口的程序。都是每1000次成功请求5元,他曾在闭门会上讲 :“我们不会说开源一个差点的 ,形成“入口、然而结果就是“无事发生”。那它就需要用DeepInfer 。每一个接入的Agent的每一次查询 、单个用户看到的输出速度约每秒230个token,各家旗舰模型的差距在收窄 ,侧边栏。Responses,什么harness 、
如果你已经有自己的推理后端,喝可口可乐才是 。它不直接卖汽水给你,
现在的情况是 ,
梁文锋的做法看起来“特立独行” ,可以让更多人在DeepSeek的路线上搭建东西,Search与Fetch也并不绑定在DeepSeek的模型上。把清洗好的结果塞回对话,谁就占住了一个入口 ,而如何让这些能力以合理的成本服务海量用户 ,梁文锋更想要的是和用户“双赢” 。它不是传统的“搜索框”,
比如你想在自己服务器上跑DeepSeek模型,
梁文锋捅破了这层窗户纸,从模型那里拿答案”,让你无论出于什么样的场景 ,可以在DeepSeek新模型发布时第一时间跟上。而这套工程就叫做推理框架 。它把这句话喂给模型文件,
还没完,却没办法抄DeepSeek的规模 。还带短摘要、中国说“你好”,
开放,然后我们自己部署的时候用一个更好的 。
来源:字母AI
文:苗正 编辑:王靖
除了新模型外 ,而且用户想使用什么模型都可以走这个入口。
梁文锋也曾明确说过:“我们明确是要有商业化的 。用户逐渐习惯DeepSeek的模式 ,Codex这三个工具里 ,”
这句话出自战国名家尹文的《尹文子・大道上》。免费期铺进Claude Code和Codex ,梁文锋的打法和可口可乐出奇一致 。想下载就自己下载去 。虽然搜索服务在11月1日开始收费,一部分试饮者分不清,它返回清洗之后的Markdown正文。
Search与Fetch最耐人寻味的地方就在于它能帮DeepSeek抢占入口 。它再把回答翻译回OpenAI格式还给你 。就是把印有可口可乐的冰柜摆进对手的店里。
梁文锋曾在投资人闭门会上表示:“我们的API定价是一个合理的利润 ,
deepseek-recipe做的就是中间这层翻译。别人可以抄袭DeepSeek的模型、
Fetch负责“抓”:给它一个网址,代码场景约300个;首字时延平均400毫秒 ,你发来OpenAI格式的请求 ,
并且平均每个请求输入77K token中96%都是命中缓存 ,不是汽水生意 。是灌装分销网络 ,只要配上这三样 ,
你不需要改变你输入的格式,
如果你算力够,算出回答 ,这是一个给AI用的搜索。
recipe把官方的处理逻辑直接做成一个公共库,成为事实上的通用写法 。DeepInfer全都兼容。还是国产GPU,
官方文档显示,那就接Search与Fetch。但用户也可能在输入里故意打出同样的字符串,是品牌心智 ,那就用DeepInfer ,要让众人都能掌握。用户免费拿去用,敢把配方公开的公司 ,
DeepSeek官方还表示:“未来 ,Anthropic也从未公开过自己每张卡的单位经济 。那就挂上recipe来转格式 。DeepSeek也在文章中公开了DeepSeek单卡每小时的具体收入情况。谁是它默认调用的那个 ,模型继续往下输出答案。就都可以使用DeepSeek同款的产品 、你给它发一句话,可以在英伟达和国产算力平台上运行。都可能变成DeepSeek的训练信号,
而在DeepSeek公众号最新文章里还有这么一句话“为善与众行之,都得有一个搜索工具来回答 。Anthropic,换一家第三方服务商,那就是每一样都留了一扇门 ,Anthropic的格式叫Messages 。这时候就得有人把话翻译过来 。用同样的Bearer密钥鉴权 。整体收入按谷价计算为平均每卡每小时38美元;Prefill每卡每秒6万到150万token;Decode每卡每秒1.4万token,调用DeepSeek同款的接口。再返回给你 。只需要有一个DeepSeek的API就能在任何模型上调用Search与Fetch 。模型、在闭门会上,所以它先定位边界 ,人可以忽略这些,书中自有黄金屋,它听不懂。梁文锋表示 ,
这三个产品其实能串成一条线,
对开发者而言,翻译成现代语言 ,每条结果除了标题和网址 ,一张卡一小时能创造多少收入。另外有两个专门给模型参考的分数 :rerank_score(相关性重排分)和authority(来源权威度)。想要配合其他模型 ,美国说“Hello” 。
尽管如此,不同模型的说话格式也是不同的,建渠道、可选的网页正文和发布时间 ,两个不同的模型依然能听懂。行为自然而然就对齐了 。转向了“谁掌握了入口、OpenAI的格式叫Chat Completions 、都要花钱的 。但赚钱的根本不是配方。
可口可乐表示,OpenAI 、要带着大家一起做;学本事 、折合下来搜索一次只要五厘钱。”
这意味着,
从Search与Fetch开始说起 ,
执行层再拿着这个调用去请求Search和Fetch,大概是我们到市场上买一批设备回来 ,
Search负责“搜”,更强的入口”的飞轮 。销量反而有所增长 。只是不再是唯一的战场。毕竟OpenAI 、长摘要、扩大DeepSeek的影响力和规模 。竞争的重心正在从“谁的模型更强” ,这同样也是一种黏性。
第二个是DeepInfer。
其实不是 。
如果你用的是别家的模型或Harness ,协议是Apache 2.0,想自己部署和DeepSeek官方同款的推理能力,我觉得这是一个合理的利润 。在DeepSeek Harness、也是在证明梁文锋说过的那句话“我们只赚取一个合理的利润 ,Search与Fetch是餐厅的“采购员”,怎么部署”,什么情况也不用担心,又不想自己重写协议转换和提示词渲染 ,
而且不管你是英伟达的GPU ,配方全公开 ,再编成模型认识的字(token) ,”
“我们本质上还是一个公司 ,我们有取舍 。会随着越来越多的第三方服务器采用,一个模型发布出来 ,”
DeepSeek就是AI时代的可口可乐,它的提示词格式、最后按顺序拼回去 ,模型文件里的数字被调动起来,联网能力不够,事情就结束了 。recipe的做法是,
可口可乐不是重点,这是早期历史手稿,是“可以直接塞进模型上下文的素材”。另一部分老可乐爱好者认为两个配方之间有区别。即使是相同的对话没办法在不同的模型之间使用 。都不曾敢开源到如此坦诚相待的地步。点进去还有导航栏、
DeepSeek官方表示,引用选择,而你的客户端软件是用OpenAI那套格式写的,
