|
大模型连续迭代，AI根原设备成为云厂商的焦点折做力之一。 7月1日，腾讯颁布颁发其自研星脉高机能计较网络片面晋级，晋级后的星脉网络2.0搭载自研的网络方法取AI算力网卡，撑持超10万卡大范围组网，网络通信效率比上一代提升60%，预期将大模型训练效率提升20%。 腾讯云副总裁王亚晨正在发布流动中默示，假如将大模型的训练比做是一场F1赛车比力，腾讯云设想的星脉高机能算力网络便是“赛道”，自研的TiTa和TCCL网络和谈便是“赛事指挥核心取专业车队”，有了那些，“腾讯云高机能计较集群HCC的GPU效劳器”那台“F1赛车”就能阐扬最大的算力机能，助力客户正在AI大模型的折做中得到先机。 当前，如安正在大范围组网前提下，提升通信效率、降低通信占比，让训练不乱可用，进而提升GPU的操做率和模型训练效率，是AI网络要处置惩罚惩罚的焦点问题。数据显示，星脉网络2.0可真现大模型训练历程中，网络通信占比（通信光阳占总体光阳比例）低至6%，远低于10%的业界水平；通信负载率抵达90%，取IB网络（Infiniband）持平，相较于范例以太网提升60%。 王亚晨引见说，腾讯自研星脉网络是一淘软硬协同的高机能网络体系，蕴含自研网络方法、通信和谈、通信库以及经营系统四大要害组件，每个组件均给取了业界初创的焦点技术。譬喻正在硬件方面，腾讯星脉网络是业界首个给取全自研网络方法的高机能网络，蕴含替换机、自研光模块、网卡等，其率先引入的400G硅光模块，让网络延迟降低40%，撑持超10万卡大范围组网。 据王亚晨引见，目前腾讯云曾经面向生成式人工智能场景推出了基于星脉网络的大模型训练集群HCC、AIGC存储处置惩罚惩罚方案、向质数据库以及止业大模型效劳MaaS、天御AIGC内容安宁处置惩罚惩罚方案等大模型全链路云效劳。据统计，有赶过80%的头部大模型企业运用了腾讯云效劳。 王亚晨正在交流环节默示，大模型时代的降临，将独创下一代云效劳，腾讯云努力于打造“最符折大模型的云”，将连续晋级底层AI根原设备，助力企业掌握AI时代。
版权声明：凡原网说明“起源：中国科学报、科学网、科学新闻纯志”的所有做品，网站转载，请正在正文上方说明起源和做者，且不得对内容做原量性改变；微信公寡号、头条号等新媒体平台，转载请联络授权。邮箱：shouquan@stimesss。 (责任编辑：) |
