随着人工智能的发展,各行各业的业务开始爆发式增长,AI应用已迈入规模化部署阶段,产业AI化进一步提速,AI服务器市场需求旺盛。目前,在市场份额占有率上,浪潮AI服务器强势领跑,连续三年超过50%以上,稳坐国内冠军宝座。那么浪潮AI服务器究竟有怎样的优势呢?接下来就拿NF5488A5服务器来举例验证。
近日,在GTC China元脑生态技术论坛上,中科极限元、趋动科技、睿沿科技等元脑生态伙伴分享了多个场景下浪潮AI服务器NF5488A5的实测数据,结果表明浪潮NF5488A5服务器大幅提升了智能语音、图像识别等AI模型的训练和推理性能,促进了产业AI解决方案的开发与应用。
NF5488A5是浪潮自研的新一代AI服务器,采用模块化设计,适用于更广泛的数据中心环境,可极大程度上降低部署成本,提高运行效率。在4U空间内支持8颗第三代NVLink全互联的A100芯片,可为用户提供高达5 PetaFLOPS的AI计算性能和超高速带宽,为各类AI应用场景提供强大的计算力支撑,加速应用创新。NF5488A5曾屡次打破全球权威AI测试榜单MLPerf的记录,基于ImageNet的ResNet50基准测试显示,NF5488A5完成训练仅需33.37分钟,单机性能高居第一;推理性能达到每秒54.9万张图片,3倍于去年推理榜单的服务器最好性能。
中科极限开发的智能语音交互解决方案在国内处于领先水平,广泛应用于教育、交通、呼叫中心、智能硬件等多个领域,本次在浪潮NF5488A5服务器进行加速。NF5488A5高性能、高带宽、易部署的特性极大地促进了智能语音模型训练及线上推理。测试数据显示,在相同准确率下,与原有的系统相比,NF5488A5将模型训练速度提升了50%,单机最大推理路数提升88%,推理延迟提升65%。
趋动科技与浪潮联合打造了业内领先的一体化GPU资源池化解决方案。本次测试采用TensorFlow框架的Benchmark,测试小模型推理、大模型训练等多种AI应用场景,验证趋动科技OrionX AI加速器资源池化方案对浪潮NF5488A5服务器的兼容性和性能。结果表明, NF5488A5服务器性能优异,部署资源池化方案后,本机性能损耗小于1%,对比以往服务器的GPU性能,数据提升近50%。
睿沿科技推出的高山雨燕工业视觉平台是为工业生产场景构建的智能多业务管理安全生产管理平台,可实现远程巡检、作业安全监管、区域安防等功能。该平台在计算层使用了浪潮NF5488A5加速训练和推理。实测结果显示,在图片视频分辨率相同的情况下,模型原来的训练时间为140分钟,使用NF5488A5之后,训练时间可缩短到105分钟,速度提升25%。单机最大推理FPS(每秒传输帧数)由20800提高到28000,提升35%。
根据以上实测数据显示,浪潮NF5488A5服务器可广泛应用于图像视频、语音识别、金融分析、智能客服等典型AI应用场景,帮助AI用户高效完成AI基础设施和开发环境的构建,缩短开发周期,显著提升AI开发和应用效率。
另外,浪潮在人工智能领域还积极打造了各种AI平台,并与领先的人工智能科技公司深度合作,共同创建了“元脑生态”,以应对产业AI化进程中算力、算法和应用等方面的挑战。