【AZRD-091】ミスキャンパス 現役女子大生 みゆき</a>2007-05-28KUKI&$綺麗119分钟 阿里云全面升级GPU云工作，AI大模子推感性能可提高100%

7月19日，推出全面升级的GPU云工作【AZRD-091】ミスキャンパス 現役女子大生 みゆき2007-05-28KUKI&$綺麗119分钟，通过全新优化GPU套件，多GPU推理工作性能可最大提高100%。针对调用GPU算力最常用的容器本事，阿里云推出ACK云原生AI套件，匡助拓荒者及企业更高效地拓荒和部署AI运用，加快大模子运用落地。

跟着AI大模子的体量变大、运用变广，单GPU已难以承载推理运用的一起需求，多GPU推理时间照旧到来。如安在GPU资源紧缺确当下，竣事GPU高效互联，是提高多GPU推感性能的要害。阿里云通过进一步优化底层的AI通讯加快库DeepNCCL，让GPU云工作在推理场景下有更好的性能发达：在同等硬件环境下，Token输出隐约至少提高14%，首Token时延缩短15%。通过深度优化，推理加快性能也提高权贵，Token处理才智提高100%，一样的资源不错赈济2倍的业务需求。

用Kubernetes容器集群本事调用GPU算力，空姐大乱交已成为运转AI大模子任务的主流选拔。ACK容器工作可提供自动化编排及GPU高效不断和调遣的才智，让模子部署、膨胀变得更简便。为进一步提高AI运用运维效果，阿里云推出 ACK云原生AI套件，可竣事 Kubernetes 在 GPU 调遣和细粒度分享、AI 任务调遣、查考数据加载以及大模子推理工作启动等要害范围的才智增强和加快，相较开源均有大幅才智提高。比如，针对AI任务每每加载辛苦存储数据的需求，ACK云原生AI套件可提高查考数据读取性能30%以上，缩短大模子推理工作冷启动时延70%以上。

在全球累计朝上1000万活跃用户的国产AI画图器用海艺AI，便是通过ACK调用阿里云GPU云工作的先驱。此前，用户通过海艺AI生成一张图片平均耗时20秒，际遇部队恭候蔓延可飞腾至分钟级；选择阿里云GPU云算力及ACK容器工作后，海艺AI的模子切换透顶无感，推理耗时缩短至3.95秒，合座性能提高至少50%以上。

在最新的Forrester 全球AI基础要害处理有贪图询查通告中，阿里云玄虚产物才智贪图位居全球第二，已成为中国AI大模子的大众底座。零一万物、百川智能、智谱AI、昆仑万维、vivo、复旦大学、巨东说念主收罗等广漠企业和机构在阿里云上查考大模子，并通过阿里云对外提供工作；小鹏汽车、联思、德勤、微博、完整天下、喜马拉雅等已接入阿里云通义大模子，在阿里云上为糟践者和客户提供丰富的AI运用工作。

雷峰网