AI浪潮下,随着现象级应用DeepSeek爆火,市场上也兴起了“信息差”生意。临近“3·15”,有消费者反映,在本地部署DeepSeek时,容易碰到虚假网站及应用,同时平台上相关商品售卖五花八门,售价从一分钱到上百万元不等。
截至目前,DeepSeek R1模型本地部署最具性价比的方案就是清华大学团队提出的KTransformer方案和Unsloth动态量化方案,两套方案都是借助CPU+GPU混合推理,来降低GPU购买的硬件成本,并且底层CPU推理实现也都是基于llama.cpp。
员工正在使用DeepSeek赋能的应用系统。潘剑摄为实现人工智能应用与公司各业务工作的高度融合,近日,广西中烟加速基于DeepSeek的应用系统赋能升级,相关应用系统的智能化水平得到了显著提升。随着DeepSeek-R1大模型在公司AI算力平台上线部署,公司使用人数持续攀升。