Access Denied (103) 【新手教程】Windows/macOS/Linux三平台Ollama安装全攻略:5分钟跑通本地大模型 - 新手指南 - 闲社 - Powered by Discuz! Archiver

kai_va 发表于 5 天前

【新手教程】Windows/macOS/Linux三平台Ollama安装全攻略:5分钟跑通本地大模型

【新手教程】Windows/macOS/Linux三平台Ollama安装全攻略:5分钟跑通本地大模型

发布时间:2026-06-16 | 阅读时间:约8分钟 | 难度:⭐☆☆☆☆



一、为什么选Ollama?

Ollama是目前最简单、最友好的本地大模型运行工具,没有之一。


[*]一键安装,无需配置CUDA、Python环境
[*]支持Llama 3、Qwen、DeepSeek等主流开源模型
[*]提供REST API,方便对接其他应用
[*]自动管理模型下载和版本更新
[*]社区活跃,文档完善,新手友好


二、前置条件

1. 硬件要求

[*]CPU:任意64位处理器(推荐4核以上)
[*]内存:8GB起步,16GB可流畅运行7B模型,32GB可跑13B模型
[*]硬盘:至少20GB可用空间(模型文件较大)
[*]显卡:非必需,有NVIDIA/AMD显卡可加速推理


2. 系统要求

[*]Windows 10/11 64位
[*]macOS 11+(Intel/Apple Silicon均支持)
[*]Linux(Ubuntu 20.04+、Debian、Fedora等主流发行版)




三、安装步骤

方案A:Windows安装(推荐)

步骤1:下载安装包
访问官网 https://ollama.com/download,下载Windows安装程序(约200MB)。

步骤2:运行安装
双击下载的 .exe 文件,按向导完成安装。安装过程约1-2分钟。

步骤3:验证安装
打开PowerShell或CMD,输入:

ollama --version

看到版本号即表示安装成功。

步骤4:运行第一个模型

ollama run llama3.2

首次运行会自动下载模型(约2GB),下载完成后即可对话。

---

方案B:macOS安装

步骤1:使用Homebrew安装(推荐)

brew install ollama


步骤2:手动下载安装
访问 https://ollama.com/download 下载 .dmg 安装包,拖拽到Applications文件夹。

步骤3:启动服务

ollama serve


步骤4:运行模型

ollama run llama3.2


---

方案C:Linux安装

步骤1:一键安装脚本

curl -fsSL https://ollama.com/install.sh | sh


步骤2:验证安装

ollama --version


步骤3:启动服务

sudo systemctl start ollama
sudo systemctl enable ollama


步骤4:运行模型

ollama run llama3.2




四、验证安装

安装完成后,建议进行以下验证:

1. 检查版本

ollama --version


2. 列出已安装模型

ollama list


3. 测试对话

ollama run llama3.2
>>> 你好,请用一句话介绍自己


4. 测试API

curl http://localhost:11434/api/generate -d '{\"model\":\"llama3.2\",\"prompt\":\"你好\"}'




五、常用命令速查


# 运行模型
ollama run

# 列出本地模型
ollama list

# 拉取/更新模型
ollama pull

# 删除模型
ollama rm

# 查看模型信息
ollama show

# 停止运行中的模型
ollama stop




六、推荐模型


[*]llama3.2 - Meta最新开源模型,性能优秀,2GB左右
[*]qwen2.5 - 阿里通义千问,中文表现好,适合国内用户
[*]deepseek-coder - 编程专用,代码补全和解释能力强
[*]phi4 - 微软轻量模型,适合低配设备
[*]gemma2 - Google开源模型,多语言支持好




七、常见问题与解决

Q1:下载模型速度很慢怎么办?
A:Ollama默认从官方服务器下载,可配置镜像加速:

export OLLAMA_HOST=0.0.0.0
export OLLAMA_ORIGINS=*

或使用代理工具加速下载。

Q2:运行时报错 "out of memory"?
A:说明内存不足,尝试:

[*]关闭其他占用内存的程序
[*]换用更小的模型(如phi4、gemma2:2b)
[*]增加虚拟内存/交换分区


Q3:Windows安装后命令找不到?
A:检查环境变量,确保Ollama安装目录在PATH中,或重启终端。

Q4:如何卸载Ollama?
A:

[*]Windows:控制面板 → 卸载程序
[*]macOS:brew uninstall ollama
[*]Linux:sudo rm -rf /usr/local/bin/ollama ~/.ollama


Q5:模型文件存在哪里?
A:默认在 ~/.ollama/models/,可通过 OLLAMA_MODELS 环境变量修改。



八、进阶玩法


[*]对接Web UI:安装Open WebUI或ChatGPT-Next-Web,获得图形化界面
[*]API调用:Ollama兼容OpenAI API格式,可替换base_url使用
[*]自定义模型:通过Modelfile创建自己的模型配置
[*]多模态:使用llava等视觉模型,让AI看懂图片




九、写在最后

Ollama让本地运行大模型变得前所未有的简单。无论你是想保护隐私、节省API费用,还是单纯想体验AI技术,Ollama都是最佳入门选择。

安装过程中遇到问题,欢迎在评论区留言,我会尽力解答!

---
本文基于Ollama 0.6.x版本编写,如有更新请以官方文档为准。
页: [1]
查看完整版本: 【新手教程】Windows/macOS/Linux三平台Ollama安装全攻略:5分钟跑通本地大模型