3月14日,清华大学高性能计算研究所翟季冬教授团队与清华系科创企业“清程极智”联合宣布,开源大模型推理引擎“赤兔Chitu”。据介绍,该引擎首次实现在非英伟达Hopper架构GPU及各类国产芯片上原生运行FP8精度模型。
本报记者 曲忠芳 北京报道2023年被业界称为“生成式AI元年”,在ChatGPT的带动之下,AI大模型、生成式AI浪潮席卷各个行业领域。抛开噱头炒作,AI大模型究竟能给企业的业务发展带来哪些实质性的变革,如何实现高效地落地应用?这一问题相比技术本身更被社会关注。