Hugging Face Transformers 完整教程

欢迎来到 Hugging Face 教程。首页卡片叫 Hugging Face,正文聚焦 Transformers 库与 Hub(模型 / 数据集 / Spaces)。内容依据 Transformers 官方文档huggingface/transformers 整理,帮你从推理走到微调与分享。

Transformers 是文本、视觉、音频、视频与多模态的模型定义框架;Hub 上有 100 万+ 检查点。本教程示例一律用未门控(ungated) 小模型,避免 Llama 等许可证墙挡住第一次运行。


教程目录

基础篇

  1. Hugging Face 简介 — Hub、Transformers、生态,以及和本站 PyTorch / Ollama 的分工
  2. 安装与环境 — venv、PyTorch、transformershf auth login,GPU 可选
  3. 快速上手 — 用 pipeline 做分类或生成

核心 API

  1. Pipeline 推理 — 任务表,文本 / 视觉 / 音频示例
  2. Tokenizer 与模型AutoTokenizerAutoModelForCausalLM、编码解码
  3. 文本生成generate()、贪婪 vs 采样、max_new_tokens

数据与训练

  1. Datasets 数据集load_datasetmapDataCollator
  2. 微调训练Trainer + rotten_tomatoes,或小因果 LM 的 LoRA
  3. Hub 模型库 — 搜模型、模型卡、push_to_hub、Spaces 预告

实战篇

  1. 实战案例 — 情感分析、无 RAG 小聊天、微调提纲
  2. 资源与延伸阅读 — 官方文档与本站相关课程

学习路径

阶段目标章节
第 1 天跑通推理简介 → 安装 → 快速上手 → Pipeline
第 2–3 天理解权重与生成Tokenizer 与模型 → 文本生成
第 1 周数据与微调Datasets → 微调 → Hub
第 2 周串成项目实战案例 → 资源

本教程选用的模型(均可公开下载)

用途模型 / 数据为什么选它
文本分类distilbert/distilbert-base-uncased + rotten_tomatoes体积小、无门控,适合 Trainer
现成情感推理distilbert/distilbert-base-uncased-finetuned-sst-2-english官方 Pipeline 默认之一
文本生成distilbert/distilgpt2Qwen/Qwen2.5-0.5B-Instruct后者中文更好;Qwen / DeepSeek 对国内读者更友好
语音识别openai/whisper-tiny可在 CPU 上试 ASR

和本站其他课程的关系

  • 张量与训练循环:先看本站 PyTorch 教程,再回来用 Transformers 的 Trainer / generate()
  • 只想本地聊天:本站 Ollama 教程 更省事;本课面向研究、微调、自定义流水线。
  • 编码 Agent:Hugging Face Skills(SKILL.md)可让 Cursor / Claude Code 代操作 Hub,不是本课主路径。

前置知识

  • Python 3.10+ 基础(函数、虚拟环境)
  • 了解「预训练 → 微调 → 推理」即可;不必先会手写 Transformer
  • 有 GPU 更好,但分类与 tiny 生成可在 CPU 上完成

学习建议

  1. 按目录顺序做,每一章都有可运行代码
  2. 第一次下载会走 Hub 缓存,请预留磁盘
  3. 遇到门控模型先换本课列出的 ungated 检查点
  4. 微调前先读模型卡上的许可与显存提示
  5. 编码 Agent 可用 Hugging Face Skills,但请先亲手跑通 Pipeline

下一步

评论