【新手教程】Windows/macOS/Linux三平台Ollama安装全攻略:5分钟跑通本地大模型
【新手教程】Windows/macOS/Linux三平台Ollama安装全攻略:5分钟跑通本地大模型发布时间:2026-06-16 | 阅读时间:约8分钟 | 难度:⭐☆☆☆☆
一、为什么选Ollama?
Ollama是目前最简单、最友好的本地大模型运行工具,没有之一。
[*]一键安装,无需配置CUDA、Python环境
[*]支持Llama 3、Qwen、DeepSeek等主流开源模型
[*]提供REST API,方便对接其他应用
[*]自动管理模型下载和版本更新
[*]社区活跃,文档完善,新手友好
二、前置条件
1. 硬件要求
[*]CPU:任意64位处理器(推荐4核以上)
[*]内存:8GB起步,16GB可流畅运行7B模型,32GB可跑13B模型
[*]硬盘:至少20GB可用空间(模型文件较大)
[*]显卡:非必需,有NVIDIA/AMD显卡可加速推理
2. 系统要求
[*]Windows 10/11 64位
[*]macOS 11+(Intel/Apple Silicon均支持)
[*]Linux(Ubuntu 20.04+、Debian、Fedora等主流发行版)
三、安装步骤
方案A:Windows安装(推荐)
步骤1:下载安装包
访问官网 https://ollama.com/download,下载Windows安装程序(约200MB)。
步骤2:运行安装
双击下载的 .exe 文件,按向导完成安装。安装过程约1-2分钟。
步骤3:验证安装
打开PowerShell或CMD,输入:
ollama --version
看到版本号即表示安装成功。
步骤4:运行第一个模型
ollama run llama3.2
首次运行会自动下载模型(约2GB),下载完成后即可对话。
---
方案B:macOS安装
步骤1:使用Homebrew安装(推荐)
brew install ollama
步骤2:手动下载安装
访问 https://ollama.com/download 下载 .dmg 安装包,拖拽到Applications文件夹。
步骤3:启动服务
ollama serve
步骤4:运行模型
ollama run llama3.2
---
方案C:Linux安装
步骤1:一键安装脚本
curl -fsSL https://ollama.com/install.sh | sh
步骤2:验证安装
ollama --version
步骤3:启动服务
sudo systemctl start ollama
sudo systemctl enable ollama
步骤4:运行模型
ollama run llama3.2
四、验证安装
安装完成后,建议进行以下验证:
1. 检查版本
ollama --version
2. 列出已安装模型
ollama list
3. 测试对话
ollama run llama3.2
>>> 你好,请用一句话介绍自己
4. 测试API
curl http://localhost:11434/api/generate -d '{\"model\":\"llama3.2\",\"prompt\":\"你好\"}'
五、常用命令速查
# 运行模型
ollama run
# 列出本地模型
ollama list
# 拉取/更新模型
ollama pull
# 删除模型
ollama rm
# 查看模型信息
ollama show
# 停止运行中的模型
ollama stop
六、推荐模型
[*]llama3.2 - Meta最新开源模型,性能优秀,2GB左右
[*]qwen2.5 - 阿里通义千问,中文表现好,适合国内用户
[*]deepseek-coder - 编程专用,代码补全和解释能力强
[*]phi4 - 微软轻量模型,适合低配设备
[*]gemma2 - Google开源模型,多语言支持好
七、常见问题与解决
Q1:下载模型速度很慢怎么办?
A:Ollama默认从官方服务器下载,可配置镜像加速:
export OLLAMA_HOST=0.0.0.0
export OLLAMA_ORIGINS=*
或使用代理工具加速下载。
Q2:运行时报错 "out of memory"?
A:说明内存不足,尝试:
[*]关闭其他占用内存的程序
[*]换用更小的模型(如phi4、gemma2:2b)
[*]增加虚拟内存/交换分区
Q3:Windows安装后命令找不到?
A:检查环境变量,确保Ollama安装目录在PATH中,或重启终端。
Q4:如何卸载Ollama?
A:
[*]Windows:控制面板 → 卸载程序
[*]macOS:brew uninstall ollama
[*]Linux:sudo rm -rf /usr/local/bin/ollama ~/.ollama
Q5:模型文件存在哪里?
A:默认在 ~/.ollama/models/,可通过 OLLAMA_MODELS 环境变量修改。
八、进阶玩法
[*]对接Web UI:安装Open WebUI或ChatGPT-Next-Web,获得图形化界面
[*]API调用:Ollama兼容OpenAI API格式,可替换base_url使用
[*]自定义模型:通过Modelfile创建自己的模型配置
[*]多模态:使用llava等视觉模型,让AI看懂图片
九、写在最后
Ollama让本地运行大模型变得前所未有的简单。无论你是想保护隐私、节省API费用,还是单纯想体验AI技术,Ollama都是最佳入门选择。
安装过程中遇到问题,欢迎在评论区留言,我会尽力解答!
---
本文基于Ollama 0.6.x版本编写,如有更新请以官方文档为准。
页:
[1]