Transformers documentation

1月

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

1月

Jan 是一款开源的 ChatGPT 替代方案。它原生支持 transformers serve,无需额外的隧道配置。

前往 设置 > 模型提供商。

  1. 将 Base URL 设置为 http://localhost:8000/v1。
  2. 在 API Key 中输入任意文本(必填)。

查看 Models 部分(如果为空,请点击 Refresh)。点击 + 以添加特定模型,例如 Qwen/Qwen3-4B,或者使用 <repo>:<file>.gguf 来添加 GGUF 模型。

Update on GitHub