关键观点
推理速度在AI实用化后成为硬需求
Cerebras早期已经具备速度优势,但当AI只是新奇技术、尚未进入日常工作时,客户并不重视响应速度。Feldman认为,转折发生在2025年前后:模型变得足够聪明,开始被持续嵌入真实工作流程…展开观点收起观点
Cerebras早期已经具备速度优势,但当AI只是新奇技术、尚未进入日常工作时,客户并不重视响应速度。Feldman认为,转折发生在2025年前后:模型变得足够聪明,开始被持续嵌入真实工作流程。此时,等待时间会直接破坏用户体验,慢推理将像拨号上网或慢搜索一样失去市场。他将需求爆发主要归因于应用成熟,而非某次孤立的芯片升级。
为什么重要: 基础设施价值取决于应用进入高频使用后的瓶颈,而不只取决于实验室指标。提前布局者可能需要承受技术领先与市场成熟之间的多年时间差。
支撑证据
But we had to wait until it was smart enough to be useful. And that happened in 2025.
数量级改进要求架构级差异
Feldman称Cerebras的推理性能比GPU快15至20倍,并表示这种优势覆盖不同规模和来源的模型。其核心选择是晶圆级设计:单颗芯片面积约46,000平方毫米,而传统芯片更接近邮票大小。…展开观点收起观点
Feldman称Cerebras的推理性能比GPU快15至20倍,并表示这种优势覆盖不同规模和来源的模型。其核心选择是晶圆级设计:单颗芯片面积约46,000平方毫米,而传统芯片更接近邮票大小。他认为,在既有GPU架构上做小幅修改,无法获得数量级提升。因此,公司从创立之初就把“不同”而非“兼容式渐进优化”作为设计前提。
为什么重要: 如果目标是实现数量级性能提升,团队往往必须承担更高的制造、软件和市场风险,而不能只优化成熟方案。
支撑证据
You're not going to get 15 or 20 times better than the GPU with a minor modification to their architecture.