本报记者 李玉洋 上海报道在被英伟达统治的AI芯片市场中,已经很久没有新闻了,但龙年春节刚过,一家名为Groq的初创公司从前者手中夺下“最快”AI推理芯片的称号。Groq宣称其LPU(语言处理单元)的推理性能是英伟达GPU(图形处理器)的10倍,而成本仅为其十分之一。
《科创板日报》2月20日讯芯片推理速度较英伟达GPU提高10倍、成本只有其1/10;运行的大模型生成速度接近每秒500 tokens,碾压ChatGPT-3.5大约40 tokens/秒的速度——短短几天,一家名为Groq的初创公司在AI圈爆火。
界面新闻记者 | 李彪美国东部时间4月9日凌晨,英特尔发布了其最新的人工智能芯片Gaudi3,预计将在第三季度大范围上市。在当天举办的Intel Vision 2024大会上,英特尔CEO帕特·基辛格(Pat Gelsinger)手持新款Gaudi3亮相。
机器之心报道编辑:泽南、杜伟生成式 AI 推理性价比是 GPU 的 140 倍。大模型时代,全球都缺算力,买铲子的英伟达市值被炒上了天。现在,终于有一家公司带着自己的 AI 芯片来叫板了。今天凌晨,科技圈迎来了一个重要新闻。
就在全世界还沉浸在Sora带来的视觉震撼时,AI圈又出了一个“王炸”产品,这一次是在芯片领域。自从AI赛道大热以来,人们的关注点主要在各种大模型的竞争,OpenAI、谷歌、Meta等巨头和各种初创企业在软件层面“争奇斗艳”。
当地时间 4 月 9 日,英特尔在 Vision 2024 客户和合作伙伴大会上正式宣布推出最新的芯片产品 Gaudi 3 AI 加速卡及全新的Xeon 6 处理器。另外,英特尔还公布了针对边缘平台的新品发布计划与 AI 优化企业的相关计划。
英特尔周二发布了最新的人工智能(AI)芯片Gaudi 3,采用5纳米工艺制造,预计将在三季度广泛上市。英特尔称,Gaudi 3比英伟达H100的推理能力平均提高50%,能效平均提高40%,运行人工智能模型的速度是H100的1.5倍。
上周五美股博通大涨24.43%、市值站上万亿美元后,本周一博通股价又上涨了11.21%,市值达1.17万亿美元。该公司拿出超市场预期的一份最新财报后,市场对于AI定制芯片的兴趣仍在高涨。即便周二美股多只芯片股普跌,博通周二股价回调跌3.91%,收盘市值也仍在1.1万亿美元以上。
本报记者 秦枭 北京报道过去一年里,由ChatGPT引爆的AI浪潮愈演愈烈,英伟达(NASDAQ:NVDA)作为这场浪潮背后最大的“卖铲人”,其GPU芯片价格被炒高数倍,但市场上仍一卡难求,英伟达因此赚得盆满钵满。“英伟达不会永远在大规模训练和推理芯片市场占据垄断地位。
还没消化完Sora带来的震撼,又一家硅谷初创企业带着史上最快的大模型和自研芯片LPU霸占了热搜。根据2024年一月的测试结果,由Groq LPU驱动Meta Llama 2模型,推理性能遥遥领先,是顶级云计算供应商的18倍。
数据是个宝数据宝炒股少烦恼宏观热点住建部:214个城市已建立房地产融资协调机制住房城乡建设部表示,自1月份城市房地产融资协调机制工作部署以来,各地和相关金融机构紧锣密鼓抓好落实,不少城市春节假期仍在推进工作,协调机制落地见效持续取得新进展。
在人工智能领域,AI芯片研发商「寒武纪科技」是家明星初创公司。寒武纪科技为中国科学院计算技术研究所(中科院计算所)背景。今年8月份,成立才1年的寒武纪宣布完成1亿美元,A轮融资,成为全球AI芯片领域第一家独角兽公司。