本报讯 近日,浪潮发布全新AIStation人工智能推理服务平台,这是业界首款智算中心算力调度软件产品,是专为企业级AI生产环境打造的AI推理服务平台,可实现推理服务资源敏捷调配,支持多源模型统一调度,使模型部署从几天缩短到几分钟,将有力地帮助企业轻松部署AI推理服务,从而大幅提升AI交付和生产效率。
据了解,该款平台通过弹性可伸缩架构、低延迟轻量化设计、A/B测试滚动发布、多模型加权评估等重要技术创新,帮助企业高效利用AI计算资源,快速部署推理服务。AIStaion推理平台具有一键部署、快速响应、日志监控、资源管控、数据处理等功能,是功能全面强大的AI资源平台。AIStation推理平台支持本地On-Premise和云端Cloud部署,保证服务的可获得性和业务连续性,实现了AI模型从开发环境到生产部署繁杂过程的自动化快捷操作,将模型部署时间从两三天降低到几分钟。