论坛邀请到上海交通大学清源研究院长聘教轨副教授、生成式人工智能研究组负责人刘鹏飞,老刘说 NLP 技术公众号作者、开源爱好者刘焕勇,北京灵琐科技 CEO、Chinese Llama 2 7B 项目发起人史业民,前智源研究院技术总监苏洋等四位专家带来演讲及实战分享。
目前,大中型企业正处于在其数据中心内建设大模型基础设施的关键阶段。但是,对于企业来说,与以计算、存储、网络、数据库等中间件为代表的传统云计算服务相比,该基础架构的落地和使用面临诸多挑战,比如:大模型和软硬件不好选择;
“生成式AI是一个跨越式的技术,和原来的技术有了非常大的变革,可以说是划时代的技术。它最大的特点就是模型大,过去几年以每年10倍参数量的速度在增长。之前AI应用里,很多训练的任务都是单卡或单机就能完成,但在大模型时代,需要千卡、万卡来完成一个任务。