Ollama 完整教程
欢迎来到 Ollama 完整教程。本教程基于 Ollama 官方文档 与开源项目 ollama/ollama 整理,帮助你在本机(或 Ollama Cloud)运行开源大模型,并用 CLI、REST、OpenAI 兼容接口把模型接到应用里。
Ollama 把「下载模型 + 本地推理 + HTTP API」收成一条命令:安装后即可 ollama run gemma4 对话,或向 http://localhost:11434/api 发请求。代码、笔记、客户资料可以留在本机,不必先开通云厂商账号。
教程目录
基础篇
- Ollama 简介 — 本地 LLM 运行时、与 vLLM / 云 API 的对比、隐私边界
- 安装与环境 — macOS / Windows / Linux、
ollama --version、GPU 与显存 - 快速上手 — 交互菜单、
pull/run//bye、ls/ps/stop
模型与接口篇
- 模型库与量化 — Library、标签、量化、云端模型
- REST 与 OpenAI 兼容 API —
/api/generate、/api/chat、/api/embed、/v1 - Python 与 JavaScript — 官方
ollama库、流式、Client
定制与检索篇
- Modelfile 定制 —
FROM、SYSTEM、PARAMETER、ollama create - Embeddings 与 RAG 预告 — 嵌入模型、向量 API、接到 LangChain RAG
集成与实践篇
- 应用集成 — Dify、LangChain、Hermes / OpenClaw、Cursor、Docker 网络
- 实战案例 — 本地问答 CLI、OpenAI 兼容小客户端、编程助手 Modelfile
- 资源与延伸阅读 — 官方文档、模型库、GitHub
学习路径
前置知识
- 会用终端(macOS / Linux bash,或 Windows PowerShell /
curl.exe) - 了解「模型、提示词、token」的基本含义
- 本机有足够磁盘:模型常见为数 GB 到数十 GB
- 可选:一块 NVIDIA GPU(CUDA)或 Apple Silicon(Metal);没有 GPU 也能用 CPU,只是更慢
本教程约定
- 官方快速上手当前默认模型是
gemma4。库里的标签会变,以 ollama.com/library 为准;中文场景也可换qwen2.5,通用对话可换 Llama 系列。 - 本机 API 基址:
http://localhost:11434/api;OpenAI 兼容基址:http://localhost:11434/v1。 - 云端同一套 API 形态:
https://ollama.com/api(需账号 / API Key)。 - 生态更新快,命令与模型名以 docs.ollama.com 为准。
学完你能做到
- 在 macOS / Windows / Linux 安装并确认
ollama --version - 用
gemma4(或qwen2.5/ Llama)完成本地对话,用/bye退出 - 对
http://localhost:11434/api与http://localhost:11434/v1各发一次成功请求(Windows 用 PowerShell 或curl.exe) - 写一份 Modelfile 并
ollama create出可复用的助手名 - 把 Ollama 接到 Dify、LangChain、Cursor 或 Docker 里的应用