西云算力已建成国内领先的智算集群规模,提供高效的大模型训练支持,实现分钟级断点续训,显著优化并行效率。西云算力技术优势明显,支持数千卡级GPU集群,集群规模国内领先,集群卡间带宽可达 1.6T/3.2T,单节点存储带宽可达 200Gb/s。智能优化技术提高训练/推理性能25%以上,节约成本20%以上。GPU利用率超过55%(针对AI视频模型训练,效率提升最高可达75%以上),并行加速率70%以上,实现高效训练。分钟级断点续训,恢复时间小于8分钟。模型部署推理性能极致优化,首Token推理延迟≤50ms。
西云算力利用NVIDIA AI Enterprise构建尼摩平台,为企业提供端到端的大模型
落地服务,推动企业大模型应用落地,为企业和开发者提供高效的模型训练与
部署,加速AI应用发展。