Cerebras WSE芯片超越NVIDIA集群，AI推理速度创世界纪录

5月29日消息， 凭借其推出的全球最大尺寸芯片—— WSE，在AI推理速度上超越了集群。

WSE芯片尺寸巨大，每边长8.5英寸（约22厘米），更是集成了惊人的4万亿个晶体管，这一庞大的晶体管数量让WSE在AI推理操作中创下了世界速度纪录，比同等规模的集群快约2.5倍。

首席信息安全官Naor Penso在温哥华的Web 上表示：“这是全球最快的推理速度。就在上周，宣布其在Llama 4上达到每秒1000个token的处理速度，而今日公布的基准测试结果则高达每秒2500个token。”

但芯片速度的提升不仅取决于晶体管数量，还有芯片的集成设计。WSE将所有组件集成在一块芯片上，并配备了44GB的超高速RAM。

Penso表示：“AI计算需要大量内存，而无需像那样依赖外接芯片。”

独立机构 也表示：“我们测试了数十家供应商的产品，是唯一在Meta旗舰模型上超越的推理解决方案。”

首席营销官Julie Shin表示，WSE并非x86或ARM架构，而是一种全新的加速GPU的架构，她补充道：“这不是一项渐进式技术，这是芯片领域的又一次飞跃。”