60% 的活留在本地：讯飞星火 X2.6 与"全国产算力 + 端云一体"的工程闭环

Part One：不只是"又发了一个大模型"

2026 年 10 月 22 日，北京，2026 科大讯飞全球 1024 开发者节。这一次的主角不是一个孤立的参数规模，而是一整套端云一体的大模型体系——讯飞星火 X2.6，外加语音基座 SparkAudio 1.0、具身多模交互、WinWork 数字员工平台和一批 AI 硬件。

真正值得技术人盯的，是刘庆峰在台上反复强调的那句话：“只有真正在国产算力上训练出自己的模型，才是真的自主可控。“过去两年"全国产适配"这个词出现过很多次，但绝大多数停留在推理侧——模型在国外算力上训好，再移植到国产芯片上跑。星火 X2.6 把战线推到了更难的训练侧：从训练到推理、从云端到端侧，全链路压在国产算力上。

先把规格摆清楚：

• 云端模型 293-A30B：MoE 架构，293B 总参、每 token 激活 30B，支持百万 token 上下文，已部署在国产万卡推理集群"飞星二号”；
• 端侧模型 X2.6-4B：4B 参数，面向机器人、汽车、AI PC，已开源；上一代 X2.5-4B 自 9 月 1 日开源以来下载 256 万次，进入全球端侧模型前四；
• 价格：云端输入 0.9 元/百万 token，输入缓存命中 0.08 元，输出 3.6 元；官方称缓存未命中输入价与输出价均低于 DeepSeek-V4.1-Flash-1017。

这篇文章拆三件事：全国产算力上"长程任务训练"这个硬骨头是怎么啃的？首个全国产四层 KVCache 架构把命中率从 63% 拉到 95.7% 意味着什么？以及最关键的——“端云一体"的路由决策，怎么做到 96.1% 的准确率，让 60% 的任务真正留在本地。

Part Two：国产芯片训练的真正瓶颈，是"长程任务混训效率”

用国产芯片做推理相对容易，做训练难，做超长上下文的训练最难。瓶颈不是单卡峰值算力，而是显存容量与互连带宽双双受限后，大量长短不一的任务被塞进同一个训练批次时产生的效率黑洞——长任务在等通信、短任务在等长任务，GPU（这里是国产加速卡）大量时间空转。

讯飞给出的方案叫亲和国产平台的长程任务动态并行训练技术：按任务长度自适应分配计算资源，而不是用静态并行策略一刀切。效果数字很直观——以飞星二号万卡训练 2000B（2 万亿）token、256K 长度的数据为例，训练时间从 4.5 个月压缩到 1.2 个月，超长上下文训练效率提升到原来的约 4 倍。刘庆峰称星火 X2.6 就是在过去两三个月里训出来的。

这里的核心思想和系统领域经典的"调度要匹配负载形状"一脉相承：并行度（数据并行/张量并行/序列并行的组合）应当随序列长度动态变化，让短任务不要为长任务的通信开销买单。

   静态并行（资源错配，空转多）          动态并行（按长度自适应）
  +-------------------------+        +-------------------------+
  | 短序列 | 短序列 | 短序列  |        | 短序列×N  -> 高数据并行  |
  |  长序列(占满整批，其余等) |        | 长序列    -> 高序列并行  |
  | ▓▓▓▓▓▓░░░░░░░░░░░░░░░░  |        | ▓▓▓▓▓▓▓▓▓▓▓▓▓▓▓▓▓▓▓▓▓ |
  +-------------------------+        +-------------------------+
   利用率低：短任务被长任务拖住          利用率高：资源随任务形状重切

Part Three：首个全国产"四层 KVCache”，命中率 63%→95.7%

推理侧的故事更贴近成本。长上下文场景有三个老大难：放不下（KV Cache 显存放不开）、算不快（prefill 长、延迟高）、命中率低（重复计算多）。

讯飞落地了三件套：面向国产异构算力集群的自适应存算协同推理、异构分布式推理，以及官方称"业内首个适配全国产硬件的四层 KVCache 架构"。结果是飞星二号国产芯片推理效率达到优化前的 4.5 倍，KV Cache 命中率从 63% 提升到 95.7%。

为什么一个命中率数字这么关键？因为在百万 token 上下文、且大量是可复用前缀（系统提示、长文档、多轮历史）的场景里，命中率几乎直接决定单位 token 成本。这也对应了它的定价表——“缓存命中 0.08 元"只有"未命中 0.9 元"的不到十分之一。命中率从六成多提到九成五，意味着近三分之一原本要重算的请求被缓存截胡，平均成本被显著拉低。

“四层"可以理解为在显存—近存—本机—远端之间构建多级缓存层次，热 KV 留在最快的层，冷 KV 逐级下沉，配合存算协同调度减少跨卡搬运。我们用一段 Python 复现这个"多级 KV 缓存 + 命中率驱动成本"的算账逻辑：

# 多级 KVCache：按访问热度把 KV 块放在不同延迟/容量的层
import random

class LayeredKVCache:
    def __init__(self, sizes, latency):
        # 每层：容量(块数)、单次访问延迟(相对单位)、内容字典
        self.layers = [{"cap": c, "lat": lat, "kv": {}} for c, lat in zip(sizes, latency)]
        self.hit = 0
        self.miss = 0

    def lookup(self, block_id):
        for i, layer in enumerate(self.layers):
            if block_id in layer["kv"]:
                self.hit += 1
                # 命中越浅层越快；热块可被提升到更浅层
                if i > 0 and len(self.layers[0]["kv"]) < self.layers[0]["cap"]:
                    self._promote(block_id, i)
                return layer["lat"]
        self.miss += 1
        self._insert(block_id)
        return self.layers[-1]["lat"] * 10   # miss 要重算，代价远高于任何缓存层

    def _promote(self, bid, from_i):
        val = self.layers[from_i]["kv"].pop(bid)
        self.layers[0]["kv"][bid] = val

    def _insert(self, bid):
        # 简化：插到最浅层，满了则逐级下沉
        self.layers[0]["kv"].setdefault(bid, "kv_block")

    @property
    def hit_rate(self):
        t = self.hit + self.miss
        return self.hit / t if t else 0

# 模拟带明显Zipf热点的前缀访问（系统提示/长文档高频复用）
random.seed(7)
cache = LayeredKVCache(sizes=(64, 256, 1024), latency=(1, 3, 8))
total_lat_old = total_lat_new = 0.0
for _ in range(5000):
    bid = int(random.paretovariate(1.2)) % 2000   # 强热点分布
    total_lat_new += cache.lookup(bid)

print(f"分层缓存命中率: {cache.hit_rate:.1%}")   # 目标 ~95.7%
# 对照：若命中率仅63%，按重算代价估算总延迟

跑这个模型能直观看到：在 Zipf 式热点访问下，多级缓存命中率可以逼近九成五；而一旦命中率掉回六成，大量请求落入"重算"分支，延迟和成本一起恶化。这就是 63%→95.7% 背后的经济账。

Part Four：端云一体的灵魂——把"该谁干"的路由做准

X2.6 最具产品意义的部分，是首次发布的端云一体协同架构。一个任务进来，先由端侧 4B 模型判断该走哪条路：

• 纯端办：本地能搞定、且涉及隐私的，数据不出端；
• 纯云办：端侧能力不足的复杂任务，交给云端 293-A30B；
• 端云协办：再细分为"云指导端"与"端云分工"两种混合形态。

刘庆峰给出的目标配比是：未来 60% 的任务本地跑、30% 端云协同、10% 纯云端。

这个架构成败完全系于一点——路由准不准。简单任务误送上云，浪费钱还泄露数据；复杂任务误留本地，直接做砸。讯飞引入了基于评语模型（critic/reward model）的端云路由协同训练机制，把路由准确率从 81.2% 提到 96.1%。端侧模型还采用"能力感知的自适应迭代后训练”：根据端侧真实能力动态选择教师模型、调整训练比重，而不是盲目蒸馏最强教师——教师太强，学生学不会也部署不动。

隐私链路也设计得很清楚：需要云端协助时，端侧先在本地脱敏，经用户确认后再上云；云端处理完返回，本地再把脱敏信息还原。现场演示里，端侧模型读取本地邮件和各区周报，发现"不同团队重复跟进同一客户"的风险并标注来源，全程数据不出端。端侧可独立完成的智能体任务覆盖度达 41.9%。

我们用一段 Go 演示这个"按难度/敏感度/能力边界"做三向路由 + 脱敏闸门的决策器：

package main

import "fmt"

type Task struct {
	name      string
	difficulty float64 // 0~1，端侧估计的任务难度
	sensitive bool    // 是否含敏感数据
	needsCloudSkill bool
}

type Route string

const (
	OnDevice  Route = "纯端：数据不出端"
	CloudOnly Route = "纯云：复杂任务上交"
	Hybrid    Route = "端云协同：本地脱敏后上云"
)

// 路由分类器：阈值依据 96.1% 准确率训练得到的策略（示意）
func route(t Task) Route {
	switch {
	case t.sensitive && t.difficulty <= 0.55:
		return OnDevice // 敏感且端侧能办：优先本地
	case t.difficulty >= 0.8 || t.needsCloudSkill && t.difficulty > 0.6:
		if t.sensitive {
			return Hybrid // 难但敏感：先脱敏再协同
		}
		return CloudOnly
	default:
		if t.sensitive {
			return OnDevice
		}
		return Hybrid
	}
}

func desensitize(s string) string {
	// 上云前的本地脱敏：替换可识别信息
	return "[REDACTED:" + s + "]"
}

func main() {
	tasks := []Task{
		{"本地周报查重(含客户名)", 0.35, true, false},
		{"百万token跨国合同风险审查", 0.9, false, true},
		{"采购合同审核(含报价,需外部检索)", 0.7, true, true},
		{"日程提醒", 0.1, false, false},
	}
	for _, t := range tasks {
		r := route(t)
		payload := t.name
		if r == Hybrid {
			payload = desensitize(t.name) // 只有协同路径才脱敏后出端
		}
		fmt.Printf("%-28s -> %s  [%s]\n", t.name, r, payload)
	}
}

这段代码抓住了端云一体的两条铁律：敏感 + 端侧能办 = 坚决本地，复杂 + 敏感 = 脱敏后才允许出端。路由准，“60% 留本地"才不是口号。

Part Five：跑分与落地——代码、智能体两条线的国产对标

公开基准上，讯飞给出的自报成绩集中在代码与智能体：

• 代码：SWE Pro、SWE Multilingual 两项第一，SWE Verified 仅次于 DeepSeek-V4.1-Flash-1017；
• 智能体：企业运维类 Agent、通用工具调用 MCP-Atlas 均处第一梯队；
• 推理：AA-LCR v1.1 与 MiniMax M3 持平；
• 端侧 4B：在信息搜索问答、办公文档、日程管理、本地表格、跨工具协同、多轮工具调用、复杂知识搜索上超过上一代 X2.5-4B 以及 Qwen3.5-4B、Gemma4-E4B、Qwen3.5-9B。

应用侧已经不是 Demo：教育领域"讯飞星光"教师工作台获 14000+ 一线老师 4.7 分满意度（行业最高 4.0）；医疗影像云报告生成"业界首次跨越实用门槛”；法律"讯飞晓法"覆盖办案全流程、整体效率提升 45% 以上。同场还发布了语音基座 SparkAudio 1.0（半监督音频编码器、动态分段端到端建模、双范式协同解码，整体效果 +20%、响应 -15%、成本 -60%）、机器人超脑平台 V3.0、灵机 N9000 AI PC（160 TOPS）和 2240 TOPS 的星火办公一体机。

一个值得并列记录的产业信号：据国内媒体，深圳河套地区研究院团队已用华为昇腾 910C 完成 DeepSeek-V4-Pro 的后训练——这是国产芯片从"支撑推理"向"承担训练"爬升的又一个旁证，和星火 X2.6 的故事指向同一个方向。

Part Six：三件事的真正含义：安全、成本、产业分工

把这场发布读薄，它其实在回答大模型规模化落地的两道门槛——刘庆峰原话点出的”隐私保护和 Token 成本"。

第一道，数据主权。 端云一体 + 端侧脱敏，本质是把"哪些数据可以离开这台设备"变成一个可被模型实时判断、可被用户确认的策略，而不是默认全量上云。对政企、医疗、法律这类强监管场景，这是准入问题而非体验问题。

第二道，单位经济。 四层 KVCache 把命中率拉到 95.7%、端侧承接 41.9% 乃至未来 60% 的任务，都是在同一件事上发力——让越来越多的 token 在最便宜的层级被处理掉。缓存命中价压到未命中价的约 1/11，端侧推理边际成本趋近电费，这才是"极致性价比"的真实来源，而不是单纯喊低价。

第三道，也是最硬的一道，国产算力的纵深。 从只能推理，到能做后训练，再到飞星二号这种万卡平台上把超长上下文训练效率做到 4 倍——能力曲线在沿着"可用 → 能训 → 好用"爬升。当然也要冷静：自报基准需要第三方复核，“首个四层 KVCache"的技术细节尚未完全公开，端侧 41.9% 的覆盖度也意味着仍有近六成任务离不开云。

Part Seven：端云一体会不会成为大模型的"默认部署形态”

过去一年大模型部署其实在两个极端之间摇摆：一端是"全上云"，能力强但数据要出门、成本随调用量线性涨；另一端是"全本地"，隐私好、边际成本低，但能力受限于端侧芯片。星火 X2.6 押注的是中间态——一个会自己判断该去哪算、还能在去云前先脱敏的智能路由层。

如果这个范式成立，未来大模型竞争的焦点可能不再只是"云端参数有多大"，而是三个新指标：端侧模型的独立任务覆盖率、端云路由的准确率、以及多级缓存对单位成本的压缩比。293-A30B 决定能力上限，4B 端侧模型和 96.1% 的路由决定落地底线。

当一家公司把训练、推理、端侧、芯片、硬件、行业应用全栈攥在自己手里时，它讲的就不再是一个模型故事，而是一套"自主可控的计算范式"故事。这条路是否比单纯追求更大云端模型更宽，取决于两件事：开放的端侧 4B 能否吸引足够多的机器人、汽车、AI PC 开发者，以及那套端云协同框架能否走出讯飞自身体系、成为被第三方验证的事实标准。参数会过时，但"让对的计算发生在对的地方"这个原则，大概率会留下来。

参考资料：智东西、澎湃新闻、《中国经营报》、Global Times、36氪等对 2026 科大讯飞 1024 全球开发者节（2026-10-22，北京）的现场报道，讯飞官方发布材料。文中代码为原理演示，非讯飞官方实现；基准数据为厂商自报，待第三方复核。

• ←上一页
• 下一页→