新京报贝壳财经讯(记者 白金蕾)10月15日,火山引擎在视频云技术大会上发布了大模型训练视频预处理方案,该方案能解决视频大模型训练的成本、质量和性能等方面的技术挑战。目前,该技术方案已应用于豆包视频生成模型。
每经记者:王紫薇 每经编辑:刘雪梅4月18日每经快讯,在火山引擎原动力大会上,火山引擎总裁谭待认为,托管大模型训练大模型需要消耗巨大的算力与成本,上云是解决算力的最优解。谭待透露,国内做大模型的商业公司大多已在火山引擎云上。
2023年年初还在密集公示大模型研发进展的企业们,现正调整方向,选择直接接入大公司搭建的大模型平台。6月28日,字节跳动旗下火山引擎发布大模型服务平台“火山方舟”,面向企业提供模型精调、评测、推理等全方位的平台服务(MaaS,即Model-as-a-Service)。
每经记者:王紫薇 每经编辑:刘雪梅火山引擎的AI助手也来了。9月19日,火山引擎宣布在其数智平台VeDI(Volcengine Data Intelligence,一款企业级数据产品)上正式推出“AI助手”。
会上,NVIDIA 开发与技术部亚太区总经理李曦鹏表示,NVIDIA 与火山引擎过往合作成果丰硕,包括共同合作的 GPU 推理库 ByteTransformer 在 IEEE 国际并行和分布式处理大会上获得最佳论文奖,双方还联合开源了高性能图像处理加速库 CV-CUDA,并在大规模稳定训练、多模型混合部署等方面的技术合作上取得成效。
AI大模型技术应用爆发,云市场也在加速变革。4月18日,火山引擎在其举办的“原动力大会”上发布自研DPU等系列云产品,并推出新版机器学习平台:支持万卡级大模型训练、微秒级延迟网络,让大模型训练更稳更快。
Upstream 选用固定域名,使用刚刚创建的 Upstream。创建完成后进入服务列表就可以获取到公网访问域名,拼接 RAG 推理服务的完整访问地址,格式为 见原文链接,其中 url 替换为在 API 网关中获取到的服务公网访问域名,model_name 替换为 RAG 模型的名称后就可以在浏览器中通过刚才拼接好的固定域名访问 RAG 推理服务,并在可视化页面中咨询本文所用到的云搜素服务文档库的相关问题。
◎“火山方舟”的首要任务是,做好大模型使用者、提供者和云平台可以互相信任的安全保障。每经记者 王紫薇 每经编辑 刘雪梅围绕大模型的创业热潮方兴未艾,互联网大厂不想错过这一机遇。在6月28日“V-Tech体验创新科技峰会”上,火山引擎发布了大模型服务平台“火山方舟”。
AI大模型技术应用爆发,云市场变革也随之加速。4月18日,火山引擎在其举办的“原动力大会”上发布自研DPU等系列云产品,并推出新版机器学习平台:支持万卡级大模型训练、微秒级延迟网络,可以让大模型训练更稳更快。据介绍,目前国内有数十家做大模型的企业,七成已经在火山引擎云上。
7月21日,在火山引擎出品的访谈节目V-Moment中,火山引擎总裁谭待、智谱AI CEO 张鹏、华泰证券技术部联席负责人王玲和润米咨询创始人刘润就当前最火热的大模型话题展开了讨论。国产大模型照比GPT-4究竟有多大差距?企业究竟需要什么样的大模型?