最近大模型的突破 —— 如 OpenAI 的 o 系列模型、DeepSeek-R1 和 Gemini 1.5 Pro—— 已经能使得模型能够处理整个代码库、长文档、在数千个 token 上保持连贯的多轮对话，并在长距离依赖关系中进行复杂推理。作者在一个 8-GPU A100 系统上评估了 NSA 相对于 Full Attention 的计算效率。
北京时间2月18日，在马斯克还在庆祝Grok 3模型正式发布的时候，DeepSeek官方在社交平台X上发布了一篇纯技术论文，主要是关于原生稀疏注意力，直指ChatGPT等顶尖大模型背后的Transformer架构最核心的注意力机制。
长期征集日子很难，生活不容易，每个人都有自己的苦，有苦说不出的感觉，受苦的人最懂。和吃苦相比，有苦难言，无人问津，可能比苦本身还难受。重生之后，叶檀老师变了很多，变得能吃苦，吃自己的苦，吃别人的苦。她说，有苦我们一起分担。
来源：环球时报 英国《金融时报》1月25日文章，原题：中国小型人工智能初创公司深度求索如何震惊硅谷本周，中国一家人工智能（AI）实验室发布尖端模型的“技术配方”，此举不仅震惊世界，也使其低调的负责人变成无视美国阻止中国高科技雄心企图的民族英雄。
21世纪经济报道记者柳宁馨 杭州报道“为什么是杭州？”以DeepSeek为代表的杭州科创企业火出圈，影响波及全球，引发全国不少城市的追问与反思。2月13日，浙江省委书记王浩与杭州“六小龙”等相关企业负责人举行了一场座谈，会上提到要下功夫打通科技创新和产业创新深度融合的卡点堵点。
作 者丨孔海丽编 辑丨骆一帆DeepSeek再次爆火。近日，国内AI初创公司DeepSeek发布了新一代大语言模型DeepSeek-V3，同时宣布开源。在多项基准测试中，V3的成绩超越了主流开源模型，并和世界顶尖的闭源模型不分伯仲。
1月27日，由国产大模型公司杭州深度求索开发的Deepseek应用登顶苹果中国地区和美国地区应用商店免费APP下载排行榜，在美区下载榜上超越了ChatGPT。据DeepSeek介绍，R1的预训练费用只有557.
