TRL documentation

커뮤니티 튜토리얼

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v1.17.1).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

커뮤니티 튜토리얼

Community tutorials는 Hugging Face 커뮤니티의 활동적인 멤버들이 자신의 지식과 전문 지식을 다른 사람들과 나누고자 작성한 것입니다. 라이브러리와 그 기능을 배우고, 핵심 클래스와 모달리티를 시작하는 데 훌륭한 방법입니다.

언어 모델

튜토리얼

작업클래스설명저자튜토리얼Colab
강화 학습GRPOTrainerTRL에서 GRPO와 vLLM을 활용한 효율적인 온라인 학습Sergio Paniego링크Open In Colab
강화 학습GRPOTrainerTRL에서 GRPO를 사용하여 추론을 위한 LLM의 후학습Sergio Paniego링크Open In Colab
강화 학습GRPOTrainerMini-R1: Deepseek R1의 „aha moment“를 재현하는 RL 튜토리얼필립 슈미트링크Open In Colab
강화 학습GRPOTrainerGRPO와 Unsloth 최적화를 적용하여 LLaMA 3.1-8B에서 RLAndrea Manzoni링크Open In Colab
지시 튜닝SFTTrainerChatML 형식을 사용하여 QLoRA로 Google Gemma LLM을 Fine-tuning필립 슈미트링크Open In Colab
구조화된 생성SFTTrainerQLoRA와 PEFT를 사용하여 Llama-2-7B를 파인튜닝하여 JSON 형식의 페르시아어 제품 카탈로그를 생성하는 방법Mohammadreza Esmaeilian링크Open In Colab
선호 최적화DPOTrainerDirect Preference Optimization를 사용하여 Mistral-7b를 정렬하여 인간 선호도에 맞게 정렬Maxime Labonne링크Open In Colab
선호 최적화experimental.orpo.ORPOTrainerORPO를 사용하여 지시 튜닝과 선호 정렬을 결합한 Llama 3 파인튜닝Maxime Labonne링크Open In Colab
지시 튜닝SFTTrainer2025년 Hugging Face를 사용하여 오픈 LLM을 파인튜닝하는 방법필립 슈미트링크Open In Colab
단계별 추론GRPOTrainervLLM을 활용한 단계별 추론을 위한 Supervised Reinforcement Learning (SRL)Deepak Swaminathan링크Open In Colab

Videos

작업제목저자Video
지시 튜닝Hugging Face TRL을 사용하여 오픈 AI 모델 파인튜닝Wietse Venema
지시 튜닝Hugging Face, TRL, smoltalk Dataset을 사용하여 smol-LM을 파인튜닝하는 방법Mayurji
⚠️ Deprecated features notice for "How to fine-tune a smol-LM with Hugging Face, TRL, and the smoltalk Dataset" (click to expand)

이 튜토리얼은 두 가지 비추천(deprecated) 기능을 사용합니다:

  • SFTTrainer(..., tokenizer=tokenizer): 대신 SFTTrainer(..., processing_class=tokenizer)를 사용하거나, 단순히 생략하세요(모델에서 추론됩니다).
  • setup_chat_format(model, tokenizer): SFTConfig(..., chat_template_path="Qwen/Qwen3-0.6B")를 사용하며, 여기서 chat_template_path는 복사하려는 채팅 템플릿을 가진 모델을 지정합니다.

비전 언어 모델

튜토리얼

작업클래스설명저자튜토리얼Colab
시각적 QASFTTrainerChartQA 데이터셋에서 시각적 질의응답을 위한 Qwen2-VL-7B 파인튜닝Sergio Paniego링크Open In Colab
시각적 QASFTTrainerFine-tuning SmolVLM with TRL on a consumer GPUSergio Paniego링크Open In Colab
SEO 설명SFTTrainer이미지에서 SEO에 적합한 설명을 생성하도록 Qwen2-VL-7B를 Fine-tuning필립 슈미트링크Open In Colab
시각적 QADPOTrainerPaliGemma 🤝 Direct Preference OptimizationMerve Noyan링크Open In Colab
시각적 QADPOTrainer소비자용 GPU에서 TRL을 사용하여 직접 선호 최적화(DPO)로 SmolVLM을 미세 조정하기Sergio Paniego링크Open In Colab
객체 감지 GroundingSFTTrainerTRL을 사용하여 객체 감지 Grounding을 위한 VLM Fine tuningSergio Paniego링크Open In Colab
시각적 QADPOTrainerMPO를 사용하여 TRL로 비전 언어 모델 미세 조정Sergio Paniego링크Open In Colab
강화 학습GRPOTrainerTRL을 사용하여 GRPO로 추론을 위한 VLM을 사후 학습Sergio Paniego링크Open In Colab

음성 언어 모델

튜토리얼

작업클래스설명저자튜토리얼
텍스트-음성GRPOTrainerTRL을 사용하여 GRPO로 음성 언어 모델 학습Steven Zheng링크

기여하기

이 목록에 추가하고 싶은 튜토리얼이 있다면, PR을 열어 추가해 주세요. 커뮤니티에 관련성이 있다고 판단되면 검토 후 병합하겠습니다.

Update on GitHub