Ollama 完整教程

欢迎来到 Ollama 完整教程。本教程基于 Ollama 官方文档 与开源项目 ollama/ollama 整理,帮助你在本机(或 Ollama Cloud)运行开源大模型,并用 CLI、REST、OpenAI 兼容接口把模型接到应用里。

Ollama 把「下载模型 + 本地推理 + HTTP API」收成一条命令:安装后即可 ollama run gemma4 对话,或向 http://localhost:11434/api 发请求。代码、笔记、客户资料可以留在本机,不必先开通云厂商账号。


教程目录

基础篇

  1. Ollama 简介 — 本地 LLM 运行时、与 vLLM / 云 API 的对比、隐私边界
  2. 安装与环境 — macOS / Windows / Linux、ollama --version、GPU 与显存
  3. 快速上手 — 交互菜单、pull / run / /byels / ps / stop

模型与接口篇

  1. 模型库与量化 — Library、标签、量化、云端模型
  2. REST 与 OpenAI 兼容 API/api/generate/api/chat/api/embed/v1
  3. Python 与 JavaScript — 官方 ollama 库、流式、Client

定制与检索篇

  1. Modelfile 定制FROMSYSTEMPARAMETERollama create
  2. Embeddings 与 RAG 预告 — 嵌入模型、向量 API、接到 LangChain RAG

集成与实践篇

  1. 应用集成 — Dify、LangChain、Hermes / OpenClaw、Cursor、Docker 网络
  2. 实战案例 — 本地问答 CLI、OpenAI 兼容小客户端、编程助手 Modelfile
  3. 资源与延伸阅读 — 官方文档、模型库、GitHub

学习路径

阶段目标章节
第 1 小时装好并完成第一次对话简介 → 安装 → 快速上手
第 1 天选模型、打通 HTTP模型库 → REST / OpenAI API
第 2–3 天写脚本、改系统提示Python/JS → Modelfile → Embeddings
第 1 周接到现有工具链集成 → 实战案例

前置知识

  • 会用终端(macOS / Linux bash,或 Windows PowerShell / curl.exe
  • 了解「模型、提示词、token」的基本含义
  • 本机有足够磁盘:模型常见为数 GB 到数十 GB
  • 可选:一块 NVIDIA GPU(CUDA)或 Apple Silicon(Metal);没有 GPU 也能用 CPU,只是更慢

本教程约定

  • 官方快速上手当前默认模型是 gemma4。库里的标签会变,以 ollama.com/library 为准;中文场景也可换 qwen2.5,通用对话可换 Llama 系列。
  • 本机 API 基址:http://localhost:11434/api;OpenAI 兼容基址:http://localhost:11434/v1
  • 云端同一套 API 形态:https://ollama.com/api(需账号 / API Key)。
  • 生态更新快,命令与模型名以 docs.ollama.com 为准。

学完你能做到

  • 在 macOS / Windows / Linux 安装并确认 ollama --version
  • gemma4(或 qwen2.5 / Llama)完成本地对话,用 /bye 退出
  • http://localhost:11434/apihttp://localhost:11434/v1 各发一次成功请求(Windows 用 PowerShell 或 curl.exe
  • 写一份 Modelfile 并 ollama create 出可复用的助手名
  • 把 Ollama 接到 DifyLangChain、Cursor 或 Docker 里的应用

相关教程

教程关系
LangChain用本地或云模型搭 Agent / RAG
Dify在应用编排里把 Ollama 当模型供应商
Hugging Face找权重、理解 GGUF / 量化再回 Ollama 运行
Hermes / OpenClaw自托管 Agent 可把 Ollama 当本地后端

下一步

评论