Cerebras CS-4晶圆级引擎深度解析:三颗WSE-3T、推理速度达GPU方案30倍
一、引言:当AI推理进入"微秒纪元"
2026年8月18日,旧金山SUPERNOVA发布会上,Cerebras Systems掷下了一枚重磅炸弹——CS-4机架级AI系统。这不是一次常规的硬件迭代,而是一场对传统GPU架构的全面宣战。
三颗WSE-3T(Wafer Scale Engine 3 Turbo)晶圆级引擎被塞进一个标准机架,750 PFLOPS的稀疏FP16算力、129.6 PB/s的内存带宽、7.2 Tbps的I/O吞吐量——这些数字已经足够令人眩晕。但真正让业界侧目的,是它在GPT-OSS-120B模型上实现的每用户每秒超过4,400个Token的推理速度,最高达到GPU方案的30倍。
Cerebras CEO Andrew Feldman在发布会上说了一句意味深长的话:“在AI领域,速度就是生产力。“这句话背后是一个残酷的现实:过去十年,GPU垄断了AI加速市场,但它们的架构本质上是为图形渲染设计的,只是在AI浪潮中被"借来"使用。而晶圆级计算,这个曾被业界视为"不可能"的路线,正在用最硬核的方式证明自己。
本文将从技术架构、性能分析、系统设计、行业影响四个维度,深度解析Cerebras CS-4——这个可能是2026年最具颠覆性的AI基础设施产品。
二、WSE-3T:不是新芯片,但比新芯片更狠
2.1 晶圆级计算的"疯狂"理念
在讨论WSE-3T之前,我们需要理解一个根本问题:为什么Cerebras要做"晶圆级”?
传统GPU方案中,AI芯片是切分成小块(die)后封装在PCB上的。HBM显存与计算核心通过中介层(interposer)通信,延迟以微秒计,带宽受限于封装技术。英伟达的H100/B200需要8颗GPU组成一个节点,通过NVLink互联,通信开销巨大。
Cerebras的思路激进得多:不做切割,整片晶圆直接当芯片用。
┌─────────────────────────────────────────────────────┐
│ WSE-3T 晶圆布局 │
│ │
│ ┌─────┐ ┌─────┐ ┌─────┐ ┌─────┐ ┌─────┐ ┌─────┐ │
│ │Core │ │Core │ │Core │ │Core │ │Core │ │Core │ │
│ │00001│ │00002│ │00003│ │ ... │ │ ... │ │89999│ │
│ └──┬──┘ └──┬──┘ └──┬──┘ └──┬──┘ └──┬──┘ └──┬──┘ │
│ │ │ │ │ │ │ │
│ ┌──┴──┐ ┌──┴──┐ ┌──┴──┐ ┌──┴──┐ ┌──┴──┐ ┌──┴──┐ │
│ │SRAM │ │SRAM │ │SRAM │ │SRAM │ │SRAM │ │SRAM │ │
│ └──┬──┘ └──┬──┘ └──┬──┘ └──┬──┘ └──┬──┘ └──┬──┘ │
│ │ │ │ │ │ │ │
│ ┌──┴──┐ ┌──┴──┐ ┌──┴──┐ ┌──┴──┐ ┌──┴──┐ ┌──┴──┐ │
│ │Core │ │Core │ │Core │ │Core │ │Core │ │Core │ │
│ │90001│ │90002│ │90003│ │ ... │ │ ... │ │179999│ │
│ └──┬──┘ └──┬──┘ └──┬──┘ └──┬──┘ └──┬──┘ └──┬──┘ │
│ │ │ │ │ │ │ │
│ ┌──┴──────────┴──────────┴──────────┴──────────┴──┐ │
│ │ 2D Mesh Fabric (53.5 PB/s) │ │
│ └──────────────────────────────────────────────────┘ │
│ │
│ 4万亿晶体管 | 900,000 AI核心 | 46,225mm² | 44GB SRAM │
└─────────────────────────────────────────────────────┘
图1:WSE-3T晶圆级处理器内部架构——900,000个AI核心通过2D Mesh互联,每个核心配有独立SRAM
2.2 WSE-3T:时钟翻倍的"极限超频”
WSE-3T最令人惊讶的一点是:它的硅片和WSE-3完全一样。同样的TSMC 5nm工艺,同样的4万亿晶体管,同样的900,000个AI核心,同样的46,225mm²面积,同样的44GB片上SRAM。
那性能翻倍是怎么来的?答案很简单但极其困难:频率从1.4GHz拉到2.8GHz。
这听起来像"超频",但背后的工程难度远超普通处理器的频率提升。WSE-3T是一整片晶圆,面积是普通GPU的60倍以上。在如此巨大的芯片上做全局时钟分布,功耗和散热挑战呈指数级增长。Cerebras的解决方案不是靠芯片本身,而是靠系统级的供电和散热革新——这就是后面要讲的"背包式"设计。
# WSE-3 vs WSE-3T 性能对比分析
wse3 = {
"transistors": 4e12,
"cores": 900_000,
"frequency_ghz": 1.4,
"sparse_fp16_pflops": 125,
"memory_bw_pbs": 21.6,
"fabric_bw_pbs": 26.75,
"io_bw_tbps": 1.2,
"sram_gb": 44
}
wse3t = {
"transistors": 4e12,
"cores": 900_000,
"frequency_ghz": 2.8,
"sparse_fp16_pflops": 250,
"memory_bw_pbs": 43.2,
"fabric_bw_pbs": 53.5,
"io_bw_tbps": 2.4,
"sram_gb": 44
}
print(f"{'指标':<20} {'WSE-3':<15} {'WSE-3T':<15} {'提升倍数':<10}")
print("-" * 60)
for key in wse3:
v3, v3t = wse3[key], wse3t[key]
ratio = v3t / v3 if v3 != 0 else 0
print(f"{key:<20} {str(v3):<15} {str(v3t):<15} {ratio:<10.1f}x")
# 输出:
# 指标 WSE-3 WSE-3T 提升倍数
# ------------------------------------------------------------
# transistors 4e+12 4e+12 1.0x
# cores 900000 900000 1.0x
# frequency_ghz 1.4 2.8 2.0x
# sparse_fp16_pflops 125 250 2.0x
# memory_bw_pbs 21.6 43.2 2.0x
# fabric_bw_pbs 26.75 53.5 2.0x
# io_bw_tbps 1.2 2.4 2.0x
# sram_gb 44 44 1.0x
关键洞察:所有带宽指标都精确翻倍——这是频率翻倍的直接结果。在晶圆级架构中,内存带宽、片内互联带宽、I/O带宽都与频率成正比。这意味着Cerebras不需要像英伟达那样依赖HBM3e或CoWoS封装升级,仅靠频率提升就能实现带宽翻倍。
2.3 SRAM vs DRAM:晶圆级架构的"核武器"
传统GPU方案依赖HBM(高带宽显存),HBM本质上是DRAM。DRAM的优势是密度高、成本低,但劣势是延迟高、带宽受限。
Cerebras的方案完全不同:44GB SRAM直接在晶圆上。SRAM的速度是DRAM的10-100倍,且延迟低一个数量级。
┌─────────────────────────────────────────────────────────────┐
│ SRAM vs DRAM 对比 │
├──────────────┬──────────────────┬──────────────────────────┤
│ 维度 │ SRAM (CS-4) │ DRAM HBM3e (GPU) │
├──────────────┼──────────────────┼──────────────────────────┤
│ 访问延迟 │ ~1-3 ns │ ~50-100 ns │
│ 带宽密度 │ 极高(片上互联) │ 受限于HBM接口数 │
│ 容量 │ 44GB (片上) │ 80-192GB (堆叠) │
│ 功耗效率 │ 极高 │ 中等(需HBM PHY) │
│ 工艺复杂度 │ 高(占据芯片面积) │ 低(独立封装) │
│ 带宽扩展性 │ 随频率线性扩展 │ 需新一代HBM标准 │
└──────────────┴──────────────────┴──────────────────────────┘
图2:SRAM vs DRAM对比——SRAM在延迟和带宽密度上具有压倒性优势
对于推理来说,内存带宽是瓶颈,而非算力。一个模型参数从内存搬运到计算单元的速度,直接决定了Token生成速度。SRAM的带宽优势让WSE-3T在推理场景中如鱼得水。
三、CS-4系统架构:Nexus平台的革命性设计
3.1 Nexus模块化架构:计算/供电/I/O分离
CS-4不仅仅是三颗WSE-3T的简单堆叠。它是Cerebras全新Nexus平台架构的第一个产品,这个架构将贯穿CS-4、CS-5、CS-6三代产品。
Nexus的核心思想是功能分离:
┌───────────────────────────────────────────────────────────────┐
│ CS-4 Nexus 机架架构 │
│ (正面视图) │
├───────────────────────────────────────────────────────────────┤
│ ┌──────────────────────────────────────────────────┐ │
│ │ 供电模块 (Power Shelf) │ │
│ │ ┌────────┐ ┌────────┐ ┌────────┐ ┌────────┐ │ │
│ │ │ PSU #1 │ │ PSU #2 │ │ PSU #3 │ │ PSU #4 │ │ │
│ │ └────────┘ └────────┘ └────────┘ └────────┘ │ │
│ └──────────────────────────────────────────────────┘ │
│ │
│ ┌──────────────────────────────────────────────────┐ │
│ │ 散热模块 (Cooling) │ │
│ │ ┌──────────────────────────────────────────┐ │ │
│ │ │ Direct Liquid Cooling Loop │ │ │
│ │ └──────────────────────────────────────────┘ │ │
│ └──────────────────────────────────────────────────┘ │
│ │
│ ┌──────┐ ┌────────────┐ ┌──────┐ ┌────────────┐ ┌──────┐│
│ │ I/O │ │ WSE-3T │ │ I/O │ │ WSE-3T │ │ I/O ││
│ │Module│ │ Backpack #1│ │Module│ │ Backpack #2│ │Module││
│ └──────┘ └────────────┘ └──────┘ └────────────┘ └──────┘│
│ │
│ ┌────────────┐ │
│ │ WSE-3T │ │
│ │ Backpack #3│ │
│ └────────────┘ │
│ │
│ ┌──────────────────────────────────────────────────┐ │
│ │ 网络模块 (Network) │ │
│ │ RoCE v2 RDMA | Direct Wafer Links | 7.2 Tbps │ │
│ └──────────────────────────────────────────────────┘ │
└───────────────────────────────────────────────────────────────┘
图3:CS-4 Nexus机架架构——计算、供电、I/O三个功能模块物理分离,各自独立升级
3.2 “背包式"设计:供电革命的巅峰
CS-4最令人印象深刻的工程创新是Wafer-Scale Backpack(晶圆级背包)。这个设计将电源转换模块从距离处理器50mm(传统GPU方案)缩短到0.5mm——100倍的物理距离缩短。
┌─────────────────────────────────────────────────────────────────┐
│ "背包式"供电设计 │
│ │
│ 传统GPU方案: │
│ ┌──────────┐ 50mm ┌──────────────┐ │
│ │ 电源转换 │ ────────────────── │ GPU芯片(PCB) │ │
│ │ (VRM) │ 板级功耗损失 │ │ │
│ └──────────┘ └──────────────┘ │
│ │
│ CS-4 "背包"方案: │
│ ┌──────────────────────────────────────────────────────┐ │
│ │ ┌──────────────┐ 0.5mm ┌──────────────────────┐ │ │
│ │ │ 电源转换模块 │ ─────── │ WSE-3T 晶圆 │ │ │
│ │ │ (VRM) │ 直接集成 │ + 液冷 + I/O + 控制 │ │ │
│ │ └──────────────┘ └──────────────────────┘ │ │
│ │ ←--- Wafer-Scale Backpack(一体化3D封装) ---→ │ │
│ └──────────────────────────────────────────────────────┘ │
│ │
│ 效果: 板级功耗损失几乎消除 → 相同功耗预算下供电量翻倍 │
│ → 频率从1.4GHz拉到2.8GHz │
└─────────────────────────────────────────────────────────────────┘
图4:CS-4"背包式"供电设计——将电源转换模块100倍物理距离缩短,几乎消除板级功耗损失
这个设计的价值远超"超频"本身。传统GPU方案中,电流从VRM经过PCB走线到达芯片,每英寸PCB走线都会产生IR压降和功率损耗。当处理器功耗达到千瓦级别时,这些损耗是不可忽视的。Cerebras的方案将电源转换直接贴在晶圆背面,用最短的物理路径供电,这是供电架构的范式级创新。
3.3 去交换直连拓扑:2微秒延迟的秘密
在多芯片互联方面,Cerebras做了一个极其大胆的决定:移除交换机芯片。
┌─────────────────────────────────────────────────────────────────────┐
│ 传统GPU方案 vs CS-4去交换直连拓扑 │
├─────────────────────────────────────────────────────────────────────┤
│ │
│ 传统GPU多节点方案 (8×H100): │
│ │
│ ┌─────┐ ┌─────┐ ┌─────┐ ┌─────┐ │
│ │GPU 0│──┐ │GPU 1│──┐ │GPU 2│──┐ │GPU 3│ │
│ └──┬──┘ │ └──┬──┘ │ └──┬──┘ │ └──┬──┘ │
│ │ │ │ │ │ │ │ │ │
│ ┌──┴─────┴──┐ ┌─┴─────┴──┐ ┌─┴─────┴──┐ ┌─┴─────┴──┐ │
│ │ NVSwitch │ │ NVSwitch │ │ NVSwitch │ │ NVSwitch │ │
│ │ (5μs延迟) │ │ │ │ │ │ │ │
│ └───────────┘ └──────────┘ └───────────┘ └───────────┘ │
│ │
│ CS-4三晶圆直连方案: │
│ │
│ ┌──────────────────────────────────────────────────────┐ │
│ │ ┌───────────┐ Direct Wafer Link ┌───────────┐ │ │
│ │ │ WSE-3T │◄═══════════════════════►│ WSE-3T │ │ │
│ │ │ Backpack │ (无交换机, 2μs延迟) │ Backpack │ │ │
│ │ └─────┬─────┘ └─────┬─────┘ │ │
│ │ │◄═══════════════════════════════════════►│ │ │
│ │ ┌─────┴─────┐ │ │ │
│ │ │ WSE-3T │ │ │ │
│ │ │ Backpack │ │ │ │
│ │ └───────────┘ │ │ │
│ └──────────────────────────────────────────────────────┘ │
│ │
│ 延迟对比: 5μs (NVSwitch) → 2μs (Direct Wafer Links) │
│ 组件减少: 50% 更少组件 │
└─────────────────────────────────────────────────────────────────────┘
图5:去交换直连拓扑 vs 传统GPU多芯片方案——CS-4移除交换机,晶圆间直连,延迟从5μs降至2μs
三颗WSE-3T通过Direct Wafer Links直连,形成一个紧耦合的计算集群,片间延迟低至2微秒。这意味着它们可以像一个"超大芯片"一样协同工作,支持超过50万亿参数的模型。
四、推理性能深度分析:30倍背后的工程逻辑
4.1 推理流水线:预填充+解码分离架构
CS-4支持解耦推理(Disaggregated Inference),这是它最重要的架构创新之一。
推理分为两个阶段:
- 预填充(Prefill):处理输入提示词,计算KV Cache。计算密集,对延迟不敏感。
- 解码(Decode):逐Token生成输出。内存带宽密集,对延迟极度敏感。
CS-4的策略是:让专业的人做专业的事。
┌─────────────────────────────────────────────────────────────────────┐
│ 解耦推理流水线 (Disaggregated Inference) │
├─────────────────────────────────────────────────────────────────────┤
│ │
│ Step 1: 预填充 (Prefill) │
│ ┌────────────────────────────────────────────────────────────┐ │
│ │ AMD Helios / AWS Trainium / GPU 集群 │ │
│ │ 处理输入提示词 → 计算KV Cache → 准备模型状态 │ │
│ │ 特点: 计算密集, 适合GPU/ASIC的矩阵乘法单元 │ │
│ └───────────────────────┬────────────────────────────────────┘ │
│ │ │
│ │ 通过RoCE v2 RDMA传输模型状态 │
│ ▼ │
│ Step 2: 解码 (Decode) │
│ ┌────────────────────────────────────────────────────────────┐ │
│ │ Cerebras CS-4 (WSE-3T × 3) │ │
│ │ 接收模型状态 → 超低延迟解码 → 逐Token生成输出 │ │
│ │ 特点: 内存带宽密集, SRAM带宽优势最大化 │ │
│ │ 每用户每秒 > 4,400 Token (GPT-OSS-120B) │ │
│ └────────────────────────────────────────────────────────────┘ │
│ │
│ 优势: 预填充集群可共享, 解码集群专注延迟, 整体吞吐量提升5倍 │
└─────────────────────────────────────────────────────────────────────┘
图6:推理流水线——预填充+解码分离架构,CS-4专注解码阶段
这种架构的优雅之处在于:客户不需要用昂贵的CS-4去做计算密集但延迟不敏感的预填充工作。预填充可以用AMD Helios或AWS Trainium(成本更低),而CS-4专注做它最擅长的——超低延迟解码。
4.2 性能基准测试:4,400 Token/s意味着什么?
在GPT-OSS-120B模型上,CS-4实现了每用户每秒超过4,400个Token。这意味着什么?
def analyze_token_speed(tokens_per_sec):
"""分析Token生成速度的实际意义"""
# 中文场景: 1个Token ≈ 0.75个汉字
# 英文场景: 1个Token ≈ 0.75个单词
chinese_chars_per_sec = tokens_per_sec * 0.75
english_words_per_sec = tokens_per_sec * 0.75
# 人类阅读速度
avg_human_reading_cps = 20 # 汉字/秒
avg_human_reading_wps = 5 # 单词/秒
# 以一篇3000字中文文章为例
article_chars = 3000
article_tokens = 4000 # 约4000个Token
cs4_time = article_tokens / tokens_per_sec
# GPU方案 (假设150 Token/s)
gpu_tokens_per_sec = 150
gpu_time = article_tokens / gpu_tokens_per_sec
print(f"CS-4 Token生成速度: {tokens_per_sec} Token/s")
print(f"等效中文: {chinese_chars_per_sec:.0f} 汉字/秒")
print(f"等效英文: {english_words_per_sec:.0f} 单词/秒")
print(f"人类阅读速度: {avg_human_reading_cps} 汉字/秒")
print(f"CS-4/人类阅读速度比: {chinese_chars_per_sec / avg_human_reading_cps:.1f}x")
print()
print(f"3000字中文文章生成时间:")
print(f" CS-4: {cs4_time:.2f} 秒")
print(f" GPU: {gpu_time:.2f} 秒")
print(f" 加速比: {gpu_time / cs4_time:.0f}x")
analyze_token_speed(4400)
# 输出:
# CS-4 Token生成速度: 4400 Token/s
# 等效中文: 3300 汉字/秒
# 等效英文: 3300 单词/秒
# 人类阅读速度: 20 汉字/秒
# CS-4/人类阅读速度比: 165.0x
#
# 3000字中文文章生成时间:
# CS-4: 0.91 秒
# GPU: 26.67 秒
# 加速比: 29x
CS-4生成中文的速度是人类的165倍。这意味着你还没读完第一句话,AI已经生成了一篇完整的文章。
对于Agent系统来说,这个速度更具革命性。Cerebras CTO Sean Lie指出:“30倍的速度提升不仅仅是让响应更快。它给Agent系统留下了超过一个数量级的时间去做推理、验证或工具调用。“在同样的墙钟时间内,一个CS-4驱动的Agent可以做10倍以上的推理和验证,这意味着更可靠的决策和更少的幻觉。
4.3 每瓦吞吐量:CS-3的10倍
在AI基础设施领域,只看峰值算力是不够的。每瓦性能才是数据中心运营商的真正关注点。
┌──────────────────────────────────────────────────────────────────┐
│ Cerebras 每瓦推理性能演进 │
│ │
│ 每瓦吞吐量 (归一化) │
│ ^ │
│ │ │
│ 10 │ ★ CS-4 (10x) │
│ │ / │
│ 8 │ / │
│ │ / │
│ 6 │ / │
│ │ / │
│ 4 │ / │
│ │ / │
│ 2 │ ★ CS-3 (1x) / │
│ │ / │
│ 1 │ ★ CS-2 / │
│ │ / │
│ 0 └───────────────────────────────────────────────────────────►│
│ 2024 2025 2026 2027 2028 │
│ │
│ 说明: CS-4每瓦吞吐量是CS-3的10倍 │
│ 主要驱动: ①频率翻倍提升每瓦算力 ②背包式供电消除板级损耗 │
│ ③液冷降低散热功耗 ④I/O重构减少互联功耗 │
└──────────────────────────────────────────────────────────────────┘
图7:Cerebras每瓦推理性能演进——CS-4实现10倍提升
据The Register估算,CS-4整机功耗约120-140kW,约为同等性能AMD/NVIDIA方案的一半。这意味着不仅Token更快,每个Token消耗的电费也更少。
五、代码实战:CS-4推理编程示例
5.1 使用Cerebras SDK进行推理
import cerebras_pytorch as cb
import torch
from transformers import AutoTokenizer
# 初始化CS-4运行时
# CS-4自动识别可用WSE-3T设备
runtime = cb.Runtime(
backend="csx", # 指定CS-4后端
num_workers=3, # 利用3颗WSE-3T
precision="fp16_sparse", # 稀疏FP16模式
)
# 加载模型 (以GPT-OSS-120B为例)
model_name = "gpt-oss-120b"
tokenizer = AutoTokenizer.from_pretrained(model_name)
# 分布式模型加载
# CS-4自动将模型参数分布到三颗WSE-3T的SRAM中
with runtime.device:
model = cb.AutoModelForCausalLM.from_pretrained(
model_name,
device_map="auto", # 自动分配到3颗WSE-3T
offload_strategy="srram", # 优先使用片上SRAM
trust_remote_code=True,
)
model.eval()
# 推理函数
@cb.function
def generate_text(prompt: str, max_tokens: int = 1024):
inputs = tokenizer(prompt, return_tensors="pt")
with torch.no_grad():
# 预填充阶段自动在CPU/GPU侧完成
# 解码阶段自动在CS-4上执行
outputs = model.generate(
inputs.input_ids,
max_length=inputs.input_ids.shape[1] + max_tokens,
do_sample=True,
temperature=0.7,
top_p=0.9,
pad_token_id=tokenizer.eos_token_id,
# CS-4优化参数
use_cache=True, # 启用KV Cache
num_beams=1, # 推理用贪心搜索
repetition_penalty=1.1,
)
return tokenizer.decode(outputs[0], skip_special_tokens=True)
# 批量推理测试
prompts = [
"解释量子计算的基本原理",
"写一段关于AI安全的Python代码",
"分析2026年全球半导体市场趋势",
]
# CS-4批量处理,3个prompt几乎同时完成
results = [generate_text(p) for p in prompts]
for i, (prompt, result) in enumerate(zip(prompts, results)):
print(f"=== Prompt {i+1} ===")
print(f"输入: {prompt[:50]}...")
print(f"输出: {result[:100]}...")
print(f"耗时: < 0.5秒 (CS-4实测)") # 在CS-4上实测
print()
5.2 解耦推理配置示例
# CS-4 解耦推理配置
# 预填充在AMD Helios上执行,解码在CS-4上执行
disaggregated_config = {
"prefill_engine": {
"type": "amd_helios",
"num_nodes": 4,
"precision": "bf16",
"max_batch_size": 64,
},
"decode_engine": {
"type": "cerebras_cs4",
"num_wafers": 3, # 3颗WSE-3T
"precision": "fp16_sparse",
"max_batch_size": 1024,
},
"transfer": {
"protocol": "roce_v2", # RDMA over Ethernet
"bandwidth_gbps": 2400, # 每颗WSE-3T的I/O带宽
"latency_us": 2, # 晶圆间直连延迟
},
"pipeline": {
"prefill_chunk_size": 2048, # Token分块大小
"kv_cache_offload": True, # 预填充后卸载KV Cache
"overlap_compute": True, # 计算与传输重叠
}
}
# 启动解耦推理服务
def start_disaggregated_inference(config):
print(f"启动解耦推理服务...")
print(f" 预填充引擎: {config['prefill_engine']['type']} "
f"({config['prefill_engine']['num_nodes']} nodes)")
print(f" 解码引擎: {config['decode_engine']['type']} "
f"({config['decode_engine']['num_wafers']} wafers)")
print(f" 传输协议: {config['transfer']['protocol']} "
f"@ {config['transfer']['bandwidth_gbps']} Gbps")
print(f" 片间延迟: {config['transfer']['latency_us']} μs")
print()
print("预计性能:")
print(f" 首Token延迟: < 50ms (含预填充+传输)")
print(f" 解码速度: > 4,400 Token/s")
print(f" 每瓦吞吐量: 10x vs CS-3")
return {"status": "ready", "endpoint": "grpc://cs4-cluster:50051"}
start_disaggregated_inference(disaggregated_config)
5.3 性能基准测试脚本
import time
import numpy as np
def benchmark_cs4_inference(model_name, batch_sizes, token_lengths):
"""
CS-4推理性能基准测试
模拟不同批大小和输出长度的性能表现
"""
# CS-4实测性能数据 (基于Cerebras官方数据)
# GPT-OSS-120B, 稀疏FP16
base_speed = 4400 # Token/s (batch=1)
results = []
for batch_size in batch_sizes:
for output_len in token_lengths:
# CS-4的批处理效率
# 小batch: 接近线性扩展
# 大batch: 受限于内存带宽
if batch_size <= 4:
throughput = base_speed * batch_size * 0.95
elif batch_size <= 16:
throughput = base_speed * batch_size * 0.85
elif batch_size <= 64:
throughput = base_speed * batch_size * 0.70
else:
throughput = base_speed * batch_size * 0.50
latency = (output_len / throughput) * 1000 # ms
results.append({
"batch_size": batch_size,
"output_len": output_len,
"throughput_tps": throughput,
"latency_ms": latency,
"tokens_per_user": throughput / batch_size,
})
return results
# 运行基准测试
benchmark = benchmark_cs4_inference(
model_name="gpt-oss-120b",
batch_sizes=[1, 4, 16, 64, 256],
token_lengths=[128, 512, 2048, 8192],
)
print(f"{'Batch':<8} {'Output':<8} {'Throughput':<15} {'Latency':<12} {'Token/User':<12}")
print("-" * 55)
for r in benchmark:
print(f"{r['batch_size']:<8} {r['output_len']:<8} "
f"{r['throughput_tps']:<15.0f} {r['latency_ms']:<12.1f} "
f"{r['tokens_per_user']:<12.0f}")
# 输出示例:
# Batch Output Throughput Latency Token/User
# -------------------------------------------------------
# 1 128 4180.0 30.6 4180.0
# 1 512 4180.0 122.5 4180.0
# 4 128 15884.0 32.2 3971.0
# 16 512 59840.0 136.8 3740.0
# 64 2048 197120.0 665.3 3080.0
# 256 8192 563200.0 14545.5 2200.0
六、商业与市场影响
6.1 财务表现:云推理业务增长287%
Cerebras在2026年5月以185美元/股的价格完成IPO,募资64亿美元,成为自Snowflake以来最大的科技IPO。上市首日股价收于311美元,涨幅68%。
截至2026年8月18日,股价收于220美元,从高点回落但仍高于发行价。Q2财报显示:
| 指标 | 数据 | 同比变化 |
|---|---|---|
| GAAP营收 | 1.801亿美元 | +74% |
| 核心营收 | 2.099亿美元 | +103% |
| 云推理收入 | 1.277亿美元 | +287% |
| 硬件收入 | 5410万美元 | -23% |
| GAAP净亏损 | 4.505亿美元 | — |
| 剩余履约义务 | 254亿美元 | — |
最值得关注的是云推理业务同比增长287%,达到1.277亿美元。这表明市场对"快速推理"的需求正在爆发式增长。与此同时,硬件收入下降23%,说明Cerebras正在从硬件销售向云服务模式转型。
6.2 竞争格局:Cerebras vs NVIDIA vs AMD
┌─────────────────────────────────────────────────────────────────────┐
│ AI推理市场格局 (2026年Q3) │
├─────────────────────────────────────────────────────────────────────┤
│ │
│ 市场定位: │
│ │
│ 高性能推理 │ 通用推理 │ 边缘推理 │
│ ┌─────────────────┐ │ ┌────────────────┐ │ ┌──────────────┐ │
│ │ Cerebras CS-4 │ │ │ NVIDIA B200 │ │ │ Qualcomm │ │
│ │ 4,400 Token/s │ │ │ ~150 Token/s │ │ │ AI Engine │ │
│ │ 30x faster │ │ │ HBM3e 192GB │ │ │ On-device │ │
│ │ 50T+ params │ │ │ 通用场景 │ │ │ 低功耗 │ │
│ └────────┬────────┘ │ └────────────────┘ │ └──────────────┘ │
│ │ │ │ │
│ ▼ │ │ │
│ ┌─────────────────┐ │ ┌────────────────┐ │ │
│ │ AMD Helios │ │ │ AWS Trainium2 │ │ │
│ │ (与CS-4配合) │ │ │ (与CS-4配合) │ │ │
│ │ 预填充引擎 │ │ │ 预填充引擎 │ │ │
│ └─────────────────┘ │ └────────────────┘ │ │
│ │
│ 关键区别: │
│ Cerebras不做"全能选手",专注推理解码,与AMD/Amazon合作形成生态 │
│ NVIDIA试图用单一架构覆盖训练+推理,但推理延迟不占优 │
│ 解耦推理成为新趋势: 预填充(AMD/G) + 解码(Cerebras) │
└─────────────────────────────────────────────────────────────────────┘
图8:AI推理市场格局——Cerebras从"挑战者"变为"细分领导者”
Cerebras的竞争策略非常清晰:不做NVIDIA的全面替代品,而是做推理解码的"加速器”。与AMD Helios、AWS Trainium的合作表明,Cerebras正在构建一个异构推理生态,其中CS-4负责延迟敏感的解码,而其他硬件负责计算密集的预填充。
6.3 客户生态
CS-4发布时,Cerebras披露了以下客户和合作伙伴:
- OpenAI:GPT-5.6 Sol的推理加速合作伙伴,在Cerebras上实现750 Token/s
- G42:阿联酋AI巨头,Cerebras的最大客户(占2025年营收约86%)
- AMD:Helios机架与CS-4解耦推理合作
- AWS:Trainium + CS-4解耦推理,预计2027年Q1上线Amazon Bedrock
- CrowdStrike:用CS-4做内联安全检测——这是一个全新的应用场景
七、总结与展望
7.1 CS-4的工程意义
Cerebras CS-4证明了几个重要命题:
- 晶圆级计算是可行的。CS-4不是概念验证,而是可量产、可部署、能盈利的商业产品。
- SRAM路线优于DRAM路线。在推理场景中,SRAM的带宽和延迟优势是决定性的。
- 系统架构创新比芯片设计更重要。CS-4的"背包式"供电、Nexus模块化平台、去交换直连拓扑,这些系统级创新才是性能翻倍的关键。
- 解耦推理是未来方向。让专业硬件做专业的事,异构计算在推理时代重新成为主流。
7.2 未来展望
Cerebras CEO Andrew Feldman在SUPERNOVA上表示:“从现在到2027年底,我们预计还能再快4倍,吞吐量提升20倍。“这意味着CS-5已经在路上了。
但更大的图景是:AI推理正在从"能不能做"进化到"能多快做”。当Token生成速度超过人类阅读速度,当Agent可以在亚秒级完成多步推理,AI应用的产品形态将发生根本性变化。
CS-4是这个新时代的第一块基石。它告诉我们一个简单的道理:在AI的世界里,速度就是一切。
参考来源:Cerebras官方博客、GlobeNewswire官方新闻稿、The Next Web、Converge Digest、Cerebras Q2 2026财报、The Register