模型供应商

每个 Dify 应用至少需要一个 Model Provider。密钥在工作空间内共享:Owner / Admin 配一次,所有应用都能选这些模型。官方入口:Integrations → Model Provider(也可从 Marketplace 安装更多插件式供应商)。


添加云厂商

常见路径:

  1. 在「安装模型供应商」列表或 Marketplace 找到目标厂商
  2. 安装后点卡片上的 Setup / 设置
  3. 填入 API Key;若走代理或专有云,再填 自定义 Endpoint / Organization
  4. Dify 会先校验再启用;失败时不要在应用里硬选该模型
类型例子备注
国际云OpenAI、Anthropic注意网络与账单
国内云DeepSeek、通义千问(Qwen / Tongyi)等常作为国内默认推理模型
本地Ollama填 Base URL,无云 Key;见 接入 Ollama

「界面上到底有哪些卡片」随版本与 Marketplace 变化,以你工作空间里能安装到的为准,不必背厂商清单。


模型不只是聊天

同一供应商往往提供多种模型类型。工作空间右上角的 Default Models 建议按职责各设一个默认值:

默认项用途
System Reasoning应用/节点未指定模型时的对话与推理
Embedding知识库建立索引与检索
Rerank对召回结果再打分排序(可选)
Speech-to-Text / TTS语音进出(若你用得到)

知识库若选 High Quality 索引,必须先有可用的 Embedding 模型,否则文档处理会停住。聊天很猛、Embedding 没配,是新手最常见的卡点。


多 Key 与自定义模型

  • 同一厂商可加多把 Key,用来隔离开发/生产或分摊额度(在卡片上 Configure / 管理凭据)
  • 列表里没有的新模型或微调模型:在支持「自定义模型」的供应商上 Add Model,填写名称与凭据
  • 若名称和类型与已有模型相同,Dify 会把新 Key 挂到已有模型上,而不是再复制一张卡
  • 自定义模型删掉最后一把 Key,模型本身也会消失;凭据有时仍留在「管理凭据」里,方便以后加回

Cloud 还可能用平台 AI credits 调用一批热门模型;额度用尽或要更高限流时,再绑你自己的账户。自托管则几乎总是「自带 Key 或自带 Ollama」。


在应用里怎么选、怎么比

Chatbot / Agent / LLM 节点里从下拉框选模型。参数(temperature 等)随厂商而变,先保持默认,用同一条提示词对比:

  1. 固定用户问题(含一条「应该拒答」的题)
  2. 换 2~3 个模型各跑一遍
  3. 看:指令跟随、中文质量、延迟、价格
  4. Agent 预览可用 Debug as Multiple Models(官方写明最多约 4 路)并排看

工具型 Agent 优先选原生 Function Calling 更好的模型;官方在 Agent Settings 里会标成 Function Calling 或退回 ReAct 提示策略。详见 Agent


安全

  • Key 只放在 Dify 工作空间(或自托管的加密配置)里,不要写进前端、DSL 分享包或公共 Git
  • 环境变量里的密钥用 Environment Variables 节点/工作空间密钥,导出 DSL 时避免把秘密带出去
  • 轮换 Key:先加新再删旧,避免正在跑的应用突然 401

LangChain 对比:那里你把 OPENAI_API_KEY 放进进程环境;Dify 把同一件事做成工作空间级配置 UI,思想相同。


常见问题

校验失败? 检查 Key 权限、额度、Endpoint 是否要带 /v1、公司代理是否拦截出站 HTTPS。

应用能聊、知识库不能建? 补 Embedding 默认模型,或在知识库创建流程里显式选一个。

Ollama 连不上? Docker 里不要写 localhost:11434,见 接入 Ollama


下一步

评论