本报记者 李玉洋 上海报道在被英伟达统治的AI芯片市场中，已经很久没有新闻了，但龙年春节刚过，一家名为Groq的初创公司从前者手中夺下“最快”AI推理芯片的称号。Groq宣称其LPU（语言处理单元）的推理性能是英伟达GPU（图形处理器）的10倍，而成本仅为其十分之一。
白交 克雷西 发自 凹非寺量子位 | 公众号 QbitAI太快了太快了。一夜间，大模型生成已经没什么延迟了……来感受下这速度。眼花缭乱了吧，生成速度已经接近每秒500 tokens。还有更直观的列表对比，速度最高能比以往这些云平台厂商快个18倍吧。
d-Matrix公司首款AI推理芯片Corsair及其4块芯片的封装。图片来源：美国d-Matrix公司随着ChatGPT横空出世，人工智能（AI）领域的竞争进入白热化。英伟达公司的高端图形处理单元（GPU）芯片“一飞冲天”，受到各大科技公司追捧。
【博通和OpenAI正在开发一种人工智能推理芯片】财联社10月30日电，消息人士表示，OpenAI正在使用AMD的芯片，同时也在使用英伟达的芯片。OpenAI已预订2026年台积电的产能。博通和OpenAI正在开发一种人工智能推理芯片。
美国当地时间4月9日，英特尔在面向客户和合作伙伴的英特尔on产业创新大会上，英特尔CEO帕特·基辛格亮出了最新AI芯片——Gaudi 3。英特尔表示，Gaudi 3 AI加速器可通过以太网的通用标准连接多达数万个加速器。
这20家国产推理之王即将引爆市场。 寒武纪——中国版GPU杀器- 核爆点:思元370芯片推理性能超A100 200%- 战果:已部署超5万张推理卡，政务云市占率第一- 绝杀技:与中科院联合研发存算一体架构。
