Hugging Face 简介

Hugging Face 是什么?

Hugging Face 既是社区,也是一套开源栈。核心有两块:

  • Hub:托管模型、数据集、Spaces(在线 Demo)的协作平台,公开检查点超过 100 万
  • Transformers:文本、视觉、音频、视频与多模态的模型定义框架,同时覆盖推理与训练。一份模型定义可对接 PyTorch 训练循环、Accelerate、vLLM / TGI 等推理引擎。

本课以 Transformers + Hub 为主,顺带介绍 datasetsevaluateacceleratepeft


生态一览

┌─────────────────────────────────────────────────────────────┐
│                     Hugging Face 生态                        │
└─────────────────────────────────────────────────────────────┘
   Hub(模型 / 数据集 / Spaces / 模型卡)
           │  from_pretrained / push_to_hub
   ┌───────┴────────┐
   │  Transformers  │  模型定义 + Pipeline + Trainer + generate()
   └───────┬────────┘
     datasets   evaluate   accelerate   peft   huggingface_hub
组件定位典型用途
Transformers模型类、Tokenizer、Pipeline、Trainer加载检查点、推理、微调
Hub权重与数据的「应用商店」搜索、下载、发布、Spaces
datasets流式/缓存数据集load_datasetmap
evaluate指标accuracy、F1
accelerate设备与分布式device_map="auto"、多卡
peft参数高效微调LoRA / QLoRA
huggingface_hubHub 客户端与 hf CLIhf auth login、上传

三个核心类

官方把检查点拆成三类对象,再用 AutoClass + from_pretrained 组装:

职责落盘文件
PreTrainedConfig层数、隐层维度、词表大小等超参config.json
PreTrainedModel权重与前向计算model.safetensors
PreprocessorTokenizer / ImageProcessor / Processortokenizer.json
from transformers import AutoConfig, AutoTokenizer, AutoModelForCausalLM

name = "distilbert/distilgpt2"
config = AutoConfig.from_pretrained(name)
tokenizer = AutoTokenizer.from_pretrained(name)
model = AutoModelForCausalLM.from_pretrained(
    name, device_map="auto", dtype="auto"
)

device_map="auto" 把层分到可用 GPU/CPU;dtype="auto" 按检查点选择浮点类型。不必先会手写注意力才能用。


三条官方主路径

你想做的事API
快速推理pipeline
训练 / 微调Trainer(或自写循环 + Accelerate)
大语言模型续写 / 对话model.generate()

和从零训练、Ollama 的区别

本站 PyTorch 教程 教张量、nn.Module、手写训练循环——那是从零搭网络的基础。Transformers 则是:别人已经预训练好,你加载、推理或微调。两者互补:看不懂 loss.backward() 时先回 PyTorch;要用 Hub 上的 BERT / Qwen 时走本课。

维度TransformersOllama自训 PyTorch
上手Pipeline 三行推理一条命令本地聊天自己写循环
强项研究、微调、多模态、自定义头本机 Chat UI / API完全可控的新架构
代价依赖与显存要自己管模型格式需 GGUF 等数据与算力全自备

选型: 只想对话 → Ollama;要微调、评测、发 Hub、接视觉/音频 → Transformers。

编码 Agent(Cursor、Claude Code 等)可以用 Hugging Face Skills 代跑 hf CLI 或 TRL 训练,那是辅助,不是本教程主线。


适用场景

适合: 文本分类 / NER、生成与对话、ASR、图像分类、在 Hub 上复现论文检查点、LoRA 适配领域数据。

需谨慎: 无 GPU 时硬训 7B;未读模型卡就商用;门控权重(Llama 等)未点同意;把 Token 写进仓库。

国内读者可优先选 QwenDeepSeek 等中文友好、常为 ungated 的系列;本课生成示例以 distilgpt2Qwen/Qwen2.5-0.5B-Instruct 为主。


下一步

评论