2月12日,摩根士丹利(亚洲)发布研究报告《DeepSeek-Al Bifurcation》,报告指出,DeepSeek的爆火催生了低成本人工智能市场,为数据中心、芯片及云服务提供商带来新的发展机遇,能够提供低成本、高效能服务的厂商将会脱颖而出。
科普中国 今年春节期间,一颗来自杭州的“AI 新星”悄然崛起,它的名字叫 DeepSeek。它就像一道突如其来的闪电,不仅点亮了全球 AI 的夜空,更为开源社区带来了一股神秘的“东方力量”。随着 DeepSeek 火出圈,越来越多的人开始使用这个 AI 神器。
截至目前,DeepSeek R1模型本地部署最具性价比的方案就是清华大学团队提出的KTransformer方案和Unsloth动态量化方案,两套方案都是借助CPU+GPU混合推理,来降低GPU购买的硬件成本,并且底层CPU推理实现也都是基于llama.cpp。