本文主要是介绍国货之光|暴雨机推出面向大模型训练的AI服务器,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!
当前,“百模大战”带来了算力需求的爆发,尤其是以ChatGPT为代表的多模态AI大模型,其参数规模和训练数据量均达到了前所未有的规模。GPT-3.5、GPT-4等模型的参数规模突破了万亿级别,训练数据量达到了TB级别,这使得大模型训练成为了一个计算密集型的任务,对算力的需求极高。
近日,暴雨重磅推出基于安全架构的训练型AI服务器envadio,适用于大模型训练、高性能计算、数据分析等多种应用场景,具有性能卓越、随需扩展、稳定可靠、维护便捷和智能调节散热等特点,构建多场景的最强AI创新算力平台。
高速互联是大规模算力集群构建的基础。芯片间、服务器间、集群间的高速互联、无损网络能力建设,是支撑千卡、万卡智能算力集群计算需求的必备条件,大模型的训练需要融合多种并行策略,对卡间P2P互联带宽以及跨节点互联带宽提出了更高的要求。暴雨Envadio服务器支持8颗创新全互联OAM加速计算模组,支持高带宽内存,高速网络平面,支持12个PCIe4.0扩展槽位,节点间高速互联扩展,无阻塞带宽RoCE组网,集群级优化架构设计,实现数据网、存储网、管理网分离,满足千亿级参数超大模型并行训练需求。
在产业落地过程中,国内各厂商的加速卡存在硬件接口不统一、互联协议不统一,同时软件生态互不兼容的情况,带来了新型AI加速卡系统适配周期长、定制投入成本高的落地难题,行业亟需更加开放的算力平台,以及更加多元的算力支撑大模型的训练。暴雨Envadio服务器一机兼容适配国内最新多类型、多品牌AI加速卡,支持DeepSpeed、Megatron等主流分布式AI训练框架,满足各种AI应用场景下对异构计算算力的极致需求。针对多元芯片管理和调度难题,envadio兼容适配暴雨AI算力调度平台,通过对计算资源、数据资源、深度学习软件栈资源进行统一管理,简化AIGC、CV、NLP模型的开发和部署流程,有效提升大模型算力平台的使用效率,满足用户更成熟、易部署、更便捷的开放生态需求。
大模型对算力的巨大需求,带来了对能源的巨大消耗。据了解,人工智能服务器的功率较普通服务器高6至8倍,训练大模型所需的能耗是常规云工作的3倍。暴雨Envadio服务器采用风道解耦设计,通过智能分层调节散热,优化散热性能,相比同级别产品,envadio服务器功耗降低约20%。产品采用12V和54V N+N冗余电源分离供电设计,实现高功耗负载动态匹配,减少电源转换损耗,赋能企业绿色低碳发展。
目前,暴雨已与国内知名互联网企业、云厂商、金融机构等众多行业龙头企业开展深度合作,为深度学习模型训练、深度学习推理、高性能计算、数据分析、图像视频、语音识别、金融分析、智能客服等典型应用场景提供了开放、高效、安全的AI算力支撑。未来基于多元化AI服务器,暴雨将持续为大模型的发展创新提供高质量算力底座,助力各行业向数智化高速发展。
这篇关于国货之光|暴雨机推出面向大模型训练的AI服务器的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!