DeepSeek 发布 V4 预览版，同步开源。公告里有一句话：

" 从目下开动，1M（一百万）凹凸文将是 DeepSeek 整个官方劳动的标配。"

OpenAI 和 Google 早就复古超长凹凸文了。问题是资本。Transformer 阻扰力机制的盘算量随序列长度遍及增长——序列翻倍，算力变四倍——处理 100 万 token 在传统架构下险些无法营业化。

时刻阐述给出了此次架构改变的幅度：在1M token 场景下，V4-Pro 的单 token 推理 FLOPs 只消 V3.2 的 27%，KV 缓存用量只消 10%。

两把刀

规范 Transformer 的自阻扰力，要让每个 token 跟序列里整个其他 token 算干系性权重。这是遍及复杂度，结构性的，不是工程调优能管理的。

往常的搪塞形势大体分两类：要么切掉盘算范围（滑动窗口只看局部邻居，全局感知随之隐藏），要么绕开长文本自己（RAG 先检索再喂给模子，检索质料成为新的上限）。还有固定寥落阻扰力，东说念主工遐想寥落时势来跳过部分盘算，但时势是死的，不同任务的信息散布各异大，泛化智商有限。

V4 的决策是 CSA + HCA 羼杂阻扰力架构。

CSA（Compressed Sparse Attention）管理的是 " 算什么 "。用轻量级索引器先对整个 token 对作念粗筛，快速估算干系性排序，再精选出需要完好盘算的 token 聚拢。枢纽在于这套寥落结构是可考验的——模子在考验历程中我方学出何处需要高密度阻扰力，何处不错寥落。V3.2 时期的 DSA 是雏形，博亚体育app官方网站V4 在此基础上作念了进一步演化。

HCA（Heavily Compressed Attention）管理的是 " 存什么 "。在 V3 时期 MLA（Multi-head Latent Attention）的基础上链接鼓舞，把 KV 向量映射到低维潜空间，推理时解压。叠上 FP4+FP8 羼杂精度—— MoE 大家参数用 FP4，其余用 FP8 —— KV 缓存的显存占用再砍一半。

两者访佛的服从，平直体目下那两个数字：27% 的 FLOPs，10% 的 KV 缓存。换算过来，同等算力下能劳动的长凹凸文并发量粗略是本来的 3 到 4 倍。

时刻阐述里还有两个细节值得记一下。mHC（Manifold-Constrained Hyper-Connections）对残差连合作念了流形经管强化，针对的是 1.6T 参数超深度模子考验时跨层信号衰减的问题。Muon 优化器替代了 Adam 系列，基于矩阵正交化更新，米兰在超大边界考验里拘谨更快，更安靖—— Adam 在大模子考验里险些是默许成立，DeepSeek 此次换掉了它。

数字

官方给出了与 Claude Opus 4.6、GPT-5.4 xHigh、Gemini 3.1 Pro High 的全维度横评。

数学和竞赛推理是 V4-Pro 施展最凸起的维度。Codeforces 评分 3206，四家最高（GPT-5.4 是 3168，Gemini 和 V4-Flash 都是 3052）。Apex Shortlist 90.2，杰出 Opus 4.6（85.9）、GPT-5.4（78.1）、Gemini（89.1）。IMOAnswerBench 89.8，仅次于 GPT-5.4（91.4）。

Agent 智商上，SWE Verified 80.6，Opus 4.6 是 80.8。Toolathlon 51.8，Opus 4.6 是 47.2，GPT-5.4 是 54.6。公告里有一句里面评价：V4 已成为职工 Agentic Coding 的主力模子，" 使用体验优于 Sonnet 4.5，托福质料接近 Opus 4.6 非想考时势 "。

长凹凸文测评有两个数字要对比着看：MRCR 1M（长文本枢纽信息检索）83.5，Gemini 是 76.3，Opus 4.6 是 92.9。CorpusQA 1M（长文档精确问答）62.0，Opus 4.6 是 71.7。MRCR 侧重检测枢纽信息是否存在，CorpusQA 要在百万 token 里精确定位并概括分析——两个测评的分化放在一都，阐述的东西当然明晰。

概括学问和科学前沿推理：SimpleQA-Verified 57.9，Gemini 是 75.6。HLE（前沿科学推理超艰辛集）37.7，四家里最低。

V4-Flash：284B 总参数，13B 激活，约为 Pro 版 18% 的体量，不异复古 1M 凹凸文和 Think/Think Max 推理时势。官方说浅近 Agent 任务上与 Pro" 旗饱读相等 "。

DeepSeek 把此次发布叫 " 预览版 "，时刻阐述标题里写的是 "Towards" ——朝向，还在路上。CSA 和 HCA 的遐想逻辑今天照旧公开，寥落考验机制在不同任务散布下何如施展，是接下来开源社区会告诉咱们的事。

数据着手：DeepSeek 官方公告《DeepSeek-V4 预览版：迈入百万凹凸文普惠时期》（2026 年 4 月 24 日）；时刻阐述 DeepSeek-V4: Towards Highly Efficient Million-Token Context Intelligence米兰app官网