作为一款聊天机器人,ChatGPT最近掀起狂热之风,上线两个月注册用户破亿,甚至一度导致服务器爆满!
作为对话式大型语言模型,ChatGPT 的诞生离不开大量云计算资源的支持。而云计算平台可以为各类 AI 产品的研发提供丰富多样的服务。
ChatGPT 是怎么看待云计算的呢?青云科技(qingcloud.com,股票代码:688316)就此对 ChatGPT 展开了提问,得到了如下回复:
ChatGPT 在回复中提到,云计算可以为 AI 提供计算、存储、分析等资源与服务。IDC 在其发布的《2022 年 H1 中国 AI 云服务市场研究报告》中也指出,“基于云计算的 AI 能力逐渐得到验证,企业上云率和云原生企业占比逐渐提高,混合云技术日益成熟和普及,这些因素驱动中国 AI 公有云部署方式快速增长。”
当企业将其 AI 应用部署在公有云上,借助公有云按需付费、弹性伸缩的特点,能够很好地满足企业实际业务需求,降低资源浪费与使用成本,同时保障业务的安全性与服务的连续性。
除了云计算以外,ChatGPT 还回答到自己使用了 GPU 计算、CPU 计算、TPU 计算等其他计算资源,用于提高自身深度学习模型的训练和推理、数据的预处理和模型的参数更新等。
为了实现强大的自然语言处理能力,ChatGPT 庞大的模型注定其需要调动海量算力进行语言模型训练,以达到其不断进化的目的。
青云QingCloud 高性能算力为 AI 赋能
ChatGPT 作为聊天 AI 应用,其诞生与成长离不开算力的滋养。而随着 ChatGPT 的热度不断上升,AI 应用逐渐走近大众视野。
数据和算力是 AI 的基础,是影响技术发展和应用的核心因素。青云QingCloud推出的高性能计算专区及系列公有云服务,为各行各业 AI 的深入应用与突破提供可靠算力支持,助力国家实体经济发展。
青云QingCloud公有云作为自研的全栈云计算服务平台,基本形成了以云服务、高性能计算、云原生、大数据等为核心的战略级服务矩阵,为企业客户提供安全合规、运维便捷、高性价比的云服务。
青云提供的公有云与私有云具有统一的代码和架构,能够实现跨云的资源供应与运营。青云公有云提供跨云多集群容器管理能力,完整覆盖云原生场景,并通过包括高性能计算在内的多元云端算力服务,为企业数据分析和深度计算提供源源不断的算力支持。
青云推出的高性能计算专区正在为各行业提供算力服务,典型应用是对 AI 场景的支持与赋能。专区通过高性能计算 EHPC、云 GPU、Lustre 商用版文件存储等产品,为用户提供完整的计算服务解决方案。其中,高性能计算集群,采用全闪并行文件存储,资源充足,弹性伸缩。弹性高性能计算 EHPC,支持 100/200Gbps IB 网络,NVIDIA A100 GPU 云主机(单台可多至 8 卡),高效支持大规模计算任务。
基于容器引擎 QKE 进行模型训练
QKE 在 QingCloud 公有云上交付 KubeSphere 容器平台的全部能力,并可统一管理跨云、跨基础设施的 K8s 集群,通过极简的人机交互实现 CI/CD、微服务,以及集群运维管理,帮助用户敏捷构建云原生应用。针对大规模的模型训练场景,青云基于容器引擎 QKE 的完整解决方案,能够在 QKE 上实现应用的快速部署、分布式计算、动态自动伸缩计算资源等,很好地支撑 AI 模型训练与应用场景。
QKE 集群 GPU 工作节点,单节点最大可支持选配 8 卡 NVIDIA A100资源,集群规模最大可配置 100个 GPU 工作节点。QKE 支持运行 TensorFlow、Keras、PyTorch、Caffe 等多种深度学习框架。通过构建 GPU 资源池,可以将 GPU 的综合利用率提升 3～10倍,并且可支持灵活调度,将 AI 负载和 GPU 资源分离部署,支持 CPU 和 GPU 资源解耦。
此外,QKE 提供弹性的资源伸缩能力,能够满足企业在模型训练时的资源要求,同时避免闲时资源浪费。集群节点支持根据资源指标数据变化,自动完成增减。同时支持 Pod 横向弹性伸缩(HPA,Horizontal Pod Autoscaler)和纵向扩容(VPA,Vertical Pod Autoscaler)。
ChatGPT 引爆 AI 时代,迎来大发展,AI 的加速布局必将显著拉动算力需求。伴随国家“东数西算”战略布局的步伐,青云的多元算力服务已经广泛应用于科学研究、新兴 AI、大数据、自动驾驶、智慧交通等领域,满足这些场景下的科学计算需求,为数字经济发展提供不竭动力。
