彩讯股份Rich AICloud端侧推理算力布局详解:三层架构助力大模型训练与推理
金融界2月11日消息,有投资者在互动平台向彩讯股份()提问:请详细介绍公司的端侧推理算力布局,谢谢。
公司回答表示:彩讯股份在端侧推理算力布局方面构建了AI原生云计算解决方案Rich ,该方案分为三层架构。底层是下一代AI原生云计算架构,可快速构建高性能算力集群;中间层是超大规模算力集群管理平台,通过计算抽象和高级调度功能优化AI负载,提升算力利用率;顶层是高性能大模型训推平台,提供推理加速能力,降低部署成本。目前,该方案已在多个千亿参数级别的大模型训练、推理及AI工具加速等方面成功落地。