Transformers documentation
1月
快速入门
基类
模型
预处理器
推理
训练
硬件
量化
生态系统集成
资源
API
1月
Jan 是一款开源的 ChatGPT 替代方案。它原生支持 transformers serve,无需额外的隧道配置。
前往 设置 > 模型提供商。
- 将 Base URL 设置为 http://localhost:8000/v1。
- 在 API Key 中输入任意文本(必填)。
查看 Models 部分(如果为空,请点击 Refresh)。点击 + 以添加特定模型,例如 Qwen/Qwen3-4B,或者使用 <repo>:<file>.gguf 来添加 GGUF 模型。
