Transformers documentation

Янв

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Янв

Jan — это альтернатива ChatGPT с открытым исходным кодом. Он нативно поддерживает transformers serve без дополнительного туннелирования.

Перейдите в Настройки > Провайдеры моделей.

  1. Установите значение Base URL как http://localhost:8000/v1.
  2. Введите любой текст в поле API Key (обязательно).

Откройте раздел Models (нажмите Refresh, если он пуст). Нажмите +, чтобы добавить конкретную модель, например Qwen/Qwen3-4B, или <repo>:<file>.gguf для модели в формате GGUF.

Update on GitHub