每经记者:杨煜 每经编辑:陈俊杰丨 2025年3月17日 星期一 丨NO.1 清华团队开源大模型推理引擎“赤兔Chitu”3月14日,清华大学高性能计算研究所翟季冬教授团队与清华系科创企业“清程极智”联合宣布,开源大模型推理引擎“赤兔Chitu”。
突然之间,灯火变得格外通明——清华团队开源的赤兔引擎,使得他们的库存芯片;这个场景,其实很像当年北斗系统打破GPS垄断的那个黎明时刻:在英伟达H100显卡被视为行业金标准的当下,中国团队,通过一行行开源代码,稍稍炸穿了“硬件绑定”的行业潜规则。
来源:新华网 新华网北京3月15日电(记者张漫子)我国人工智能基础设施企业清程极智联合清华大学翟季冬团队14日开源我国自研大模型推理引擎——“赤兔”(Chitu),首次实现国产AI芯片对新一代FP8模型(8位浮点数)的原生支持,为构建自主可控的国产AI算力生态提供了又一支撑。
8️⃣ Cohere 发布 Command A 模型 :轻量级模型仅需两块 A100/H100 GPU 运行,支持 256K 长上下文,每秒输出 156 个 Token,比 GPT-4o 快 1.75 倍,支持 23 种语言。