第一步选择系统版本:因为大模型需要的GPU来运算，当然其实CPU也可以，但我们今天讲的是要用GPU来跑的，所以我们在购买服务器的时候，一定要选择GPU服务器，然后看看服务器的系统版本对GPU显卡支持的更好。
当地时间2月21日，谷歌公司宣布，AI大模型Gemma即日起在全球范围内开放使用。谷歌发布两种权重规模的模型：Gemma 2B（20亿参数）和Gemma 7B（70亿参数）。2B版本甚至可直接在笔记本电脑上运行。
人工智能大模型以其庞大的参数规模和海量的训练数据量著称，需要由数千块AI芯片组成的服务器集群来支撑其运算。相关数据显示，在10天内训练1000亿参数规模、1PB训练数据集，约需1.08万个英伟达A100GPU。这一数字揭示了AI大模型背后巨大的经济成本。
界面新闻记者 | 彭新界面新闻编辑 | 宋佳楠美国科技巨头谷歌持续在大语言模型领域向OpenAI和Meta发起进攻。2月21日晚，谷歌宣布新一代免费可商用大语言模型Gemma在全球开放使用。该模型被谷歌视为自身“最先进的开放模型”。这是该公司在开放AI大模型领域做出的一大动作。
2月22日，谷歌放出开年又一王炸，宣布推出史上最强的开源大模型Gemma，谷歌表示在综合性能上已经超越了Meta推出的Llama-2，在数学和代码能力超过了Mistral-7B，并且Gemma可以在台式机和笔记本上本地部署运行，目前谷歌在Huggingface提供有2B和7B参数
Ollama和Open-WebUI都是与大型语言模型（LLM）相关的工具，它们在LLM的部署、管理和交互方面发挥着重要作用。以下是对这两个工具的详细介绍：一 OllamaOllama是一个开源的大型语言模型服务工具，旨在简化在本地机器上部署和运行大型语言模型的过程。
