TRL documentation
커뮤니티 튜토리얼
시작하기
개념 가이드
Trainers
사용 가이드
명령줄 인터페이스(CLI)Jobs를 사용한 학습학습 커스터마이징메모리 사용량 줄이기학습 속도 향상Distributing TrainingAWS Trainium에서 학습AMD GPU에서 학습1M 토큰 이상 학습학습된 모델 사용
통합
예시
API
실험적
You are viewing main version, which requires installation from source. If you'd like
regular pip install, checkout the latest stable version (v1.17.1).
커뮤니티 튜토리얼
Community tutorials는 Hugging Face 커뮤니티의 활동적인 멤버들이 자신의 지식과 전문 지식을 다른 사람들과 나누고자 작성한 것입니다. 라이브러리와 그 기능을 배우고, 핵심 클래스와 모달리티를 시작하는 데 훌륭한 방법입니다.
언어 모델
튜토리얼
| 작업 | 클래스 | 설명 | 저자 | 튜토리얼 | Colab |
|---|---|---|---|---|---|
| 강화 학습 | GRPOTrainer | TRL에서 GRPO와 vLLM을 활용한 효율적인 온라인 학습 | Sergio Paniego | 링크 | |
| 강화 학습 | GRPOTrainer | TRL에서 GRPO를 사용하여 추론을 위한 LLM의 후학습 | Sergio Paniego | 링크 | |
| 강화 학습 | GRPOTrainer | Mini-R1: Deepseek R1의 „aha moment“를 재현하는 RL 튜토리얼 | 필립 슈미트 | 링크 | |
| 강화 학습 | GRPOTrainer | GRPO와 Unsloth 최적화를 적용하여 LLaMA 3.1-8B에서 RL | Andrea Manzoni | 링크 | |
| 지시 튜닝 | SFTTrainer | ChatML 형식을 사용하여 QLoRA로 Google Gemma LLM을 Fine-tuning | 필립 슈미트 | 링크 | |
| 구조화된 생성 | SFTTrainer | QLoRA와 PEFT를 사용하여 Llama-2-7B를 파인튜닝하여 JSON 형식의 페르시아어 제품 카탈로그를 생성하는 방법 | Mohammadreza Esmaeilian | 링크 | |
| 선호 최적화 | DPOTrainer | Direct Preference Optimization를 사용하여 Mistral-7b를 정렬하여 인간 선호도에 맞게 정렬 | Maxime Labonne | 링크 | |
| 선호 최적화 | experimental.orpo.ORPOTrainer | ORPO를 사용하여 지시 튜닝과 선호 정렬을 결합한 Llama 3 파인튜닝 | Maxime Labonne | 링크 | |
| 지시 튜닝 | SFTTrainer | 2025년 Hugging Face를 사용하여 오픈 LLM을 파인튜닝하는 방법 | 필립 슈미트 | 링크 | |
| 단계별 추론 | GRPOTrainer | vLLM을 활용한 단계별 추론을 위한 Supervised Reinforcement Learning (SRL) | Deepak Swaminathan | 링크 |
Videos
| 작업 | 제목 | 저자 | Video |
|---|---|---|---|
| 지시 튜닝 | Hugging Face TRL을 사용하여 오픈 AI 모델 파인튜닝 | Wietse Venema | ![]() |
| 지시 튜닝 | Hugging Face, TRL, smoltalk Dataset을 사용하여 smol-LM을 파인튜닝하는 방법 | Mayurji | ![]() |
⚠️ Deprecated features notice for "How to fine-tune a smol-LM with Hugging Face, TRL, and the smoltalk Dataset" (click to expand)
이 튜토리얼은 두 가지 비추천(deprecated) 기능을 사용합니다:
SFTTrainer(..., tokenizer=tokenizer): 대신SFTTrainer(..., processing_class=tokenizer)를 사용하거나, 단순히 생략하세요(모델에서 추론됩니다).setup_chat_format(model, tokenizer):SFTConfig(..., chat_template_path="Qwen/Qwen3-0.6B")를 사용하며, 여기서chat_template_path는 복사하려는 채팅 템플릿을 가진 모델을 지정합니다.
비전 언어 모델
튜토리얼
| 작업 | 클래스 | 설명 | 저자 | 튜토리얼 | Colab |
|---|---|---|---|---|---|
| 시각적 QA | SFTTrainer | ChartQA 데이터셋에서 시각적 질의응답을 위한 Qwen2-VL-7B 파인튜닝 | Sergio Paniego | 링크 | |
| 시각적 QA | SFTTrainer | Fine-tuning SmolVLM with TRL on a consumer GPU | Sergio Paniego | 링크 | |
| SEO 설명 | SFTTrainer | 이미지에서 SEO에 적합한 설명을 생성하도록 Qwen2-VL-7B를 Fine-tuning | 필립 슈미트 | 링크 | |
| 시각적 QA | DPOTrainer | PaliGemma 🤝 Direct Preference Optimization | Merve Noyan | 링크 | |
| 시각적 QA | DPOTrainer | 소비자용 GPU에서 TRL을 사용하여 직접 선호 최적화(DPO)로 SmolVLM을 미세 조정하기 | Sergio Paniego | 링크 | |
| 객체 감지 Grounding | SFTTrainer | TRL을 사용하여 객체 감지 Grounding을 위한 VLM Fine tuning | Sergio Paniego | 링크 | |
| 시각적 QA | DPOTrainer | MPO를 사용하여 TRL로 비전 언어 모델 미세 조정 | Sergio Paniego | 링크 | |
| 강화 학습 | GRPOTrainer | TRL을 사용하여 GRPO로 추론을 위한 VLM을 사후 학습 | Sergio Paniego | 링크 |
음성 언어 모델
튜토리얼
| 작업 | 클래스 | 설명 | 저자 | 튜토리얼 |
|---|---|---|---|---|
| 텍스트-음성 | GRPOTrainer | TRL을 사용하여 GRPO로 음성 언어 모델 학습 | Steven Zheng | 링크 |
기여하기
이 목록에 추가하고 싶은 튜토리얼이 있다면, PR을 열어 추가해 주세요. 커뮤니티에 관련성이 있다고 판단되면 검토 후 병합하겠습니다.
Update on GitHub
