随着人工智能技术的迅猛发展，选择合适的硬件对于大模型的训练和推理变得至关重要。本文将探讨大模型所需的硬件计算资源GPU如何选型？工欲善其事，必先利其器。如果你正准备进行AI深度学习，什么样的GPU才是最合适的呢？
21世纪经济报道记者白杨 北京报道4月14日，腾讯云正式发布新一代HCC（High-Performance Computing Cluster）高性能计算集群。据悉，该集群采用腾讯云星星海自研服务器，搭载英伟达最新代次H800 GPU，服务器之间采用3.
界面新闻记者 | 伍洋宇界面新闻编辑 | 宋佳楠12月26日，界面新闻独家获悉，小米正在着手搭建自己的GPU万卡集群，将对AI大模型大力投入。小米大模型团队在成立时已有6500张GPU资源。 界面新闻据此向小米方面求证，截至发稿，小米暂未置评。
Colossal-AI 基于 NVIDIA GPU A30，为 AI 大模型的普适化做出了一系列贡献:1、提升 AI 大规模并行效率。在训练 ViT 模型时，可以扩大 14 倍的 batch size，加快 5 倍的训练速度;
运行时:TVM 编译生成的库能够通过 TVM runtime 在设备的原生环境中运行，TVM runtime 支持 CUDA/Vulkan/Metal 等主流 GPU 驱动以及 C、JavaScript 等语言的绑定。
