AMD人工智能事业部高级总监王宏强谈道,AMD在单个GPU能做到上千T的浮点算力规模,通过多节点横向扩展,更是能达到每秒百亿亿次浮点计算能力,并提供额外的超大内存容量及带宽,可实现700亿参数级大模型在单个GPU上的部署,并达到更高的TCO。
于2024年年底召开的中央经济工作会议在部署今年重点经济发展任务时明确指出,开展“人工智能+”行动,积极运用数字技术、绿色技术改造提升传统产业。作为人工智能的三大支柱之一,算法就像一把开启魔法之门的钥匙,加速技术与场景的结合。
当ROG幻X 2025亮出128GB LPDDR5X内存+256bit带宽的王炸组合时,整个AI圈炸了——这台1.2kg的二合一本竟敢叫板云计算服务器!**AMD锐龙AI Max+395的核弹级操作:抢48GB内存当显存还不够,直接给70B大模型在本地安了家!
近日,天翼云通过国内唯一人工智能云平台领域的ITU国际标准评估——中国信通院组织的ITU-T F.AICP-GA人工智能云平台技术规范国际标准和《智算工程平台能力要求》国内标准一致性评估,并成为国内首批通过该标准的公司。
编辑:编辑部【新智元导读】面对LLM逐渐膨胀的参数规模,没有H100的开发者和研究人员们想出了很多弥补方法,「量化」技术就是其中的一种。这篇可视化指南用各种图解,将「量化」的基本概念和分支方法进行了全方位总结。大语言模型(LLM)通常过于庞大,无法在消费级硬件上运行。
9月4日,“天翼云息壤——大模型训推一体化服务能力升级”线上发布会成功举办。会上,息壤平台训推服务能力重磅升级,新增闭源、多模态基座大模型以及数据集,支持万卡规模训练,训练稳定性再次提升,新增体验空间,为基础大模型训练、行业大模型训推提供一站式解决方案。
4月23日,游戏板块较为震荡,游戏ETF(159869)震荡拉升,现涨近0.5%,持仓股涨多跌少,上涨方面,迅游科技领涨超5%,巨人网络、北纬科技、光线传媒、中青宝、富春股份、盛天网络均涨超2%,下跌方面,三七互娱跌超2%,世纪华通均小幅下跌。