Transformers documentation

열심히 번역 중입니다. 조금 이따 만나요!

Transformers

시작하기

Base classes

모델

모델 로드하기 사용자 정의 모델 공유하기 모델 구성 요소 맞춤 설정하기 만든 모델 공유하기 transformers에서의 모듈성 🤗 Transformers에 새로운 모델을 추가하는 방법 (번역중) Documenting a model (번역중) Customizing attention function

전처리기(Preprocessors)

🤗 Tokenizers 라이브러리에서 토크나이저 사용하기 이미지 프로세서 (번역중) Video processors (번역중) Backbones (번역중) Feature extractors (번역중) Processors 토크나이저 요약 패딩과 잘라내기

추론(Inference)

파이프라인 API

거대 언어 모델(LLMs)

대규모 언어 모델로 생성하기 텍스트 생성 전략 사용자 정의 (번역중) Generation features 대규모 언어 모델 프롬프팅 가이드 LLM 추론 최적화 (번역중) Caching (번역중) KV cache strategies 모델 서빙하기 LLM을 최대한 활용하기 고정 길이 모델의 펄플렉서티(Perplexity)

모델을 사용해 대화하기

Transformers로 채팅하기 챗봇 템플릿 익히기 (번역중) Multimodal templates (번역중) Template writing (번역중) Tools and RAG

서빙(Serving)

최적화(Optimization)

(번역중) torch.compile 하나의 GPU를 활용한 추론 (번역중) Distributed inference CPU로 추론하기

(번역중) Agents (번역중) Tools

학습(Training)

Trainer API

분산 학습(Distributed training)

하드웨어

GPU CPU에서 훈련 Apple 실리콘에서 PyTorch 학습 (번역중) Intel Gaudi 훈련용 사용자 맞춤형 하드웨어

🤗 PEFT로 어댑터 로드 및 학습하기 모델 학습 해부하기

양자화(Quantization)

(번역중) Overview (번역중) Selecting a quantization method (번역중) Quantization concepts (번역중) AQLM (번역중) AutoRound AWQ (번역중) BitNet bitsandbytes (번역중) compressed-tensors EETQ (번역중) FBGEMM (번역중) Fine-grained FP8 GGUF 파일들과의 상호 운용성 GPTQ (번역중) HIGGS (번역중) HQQ (번역중) Optimum Quanto Quark (번역중) torchao (번역중) SpQR (번역중) VPTQ (번역중) Contribute

배포환경에 내보내기

(번역중) 개발자 가이드

태스크 레시피

자연어처리

오디오

컴퓨터 비전

멀티모달

이미지 캡셔닝 문서 질의 응답(Document Question Answering) 시각적 질의응답 (Visual Question Answering) (번역중) Text to speech IDEFICS를 이용한 이미지 작업 (번역중) Image-text-to-text (번역중) Video-text-to-text (번역중) Visual Document Retrieval

스크립트로 학습하기 Glossary 이념과 목표 (번역중) Notebooks with examples 커뮤니티 리소스 문제 해결 GGUF 파일들과의 상호 운용성 transformers에서의 모듈성

(번역중) 경량화 메소드

(번역중) Getting started bitsandbytes GPTQ AWQ (번역중) AQLM (번역중) VPTQ Quanto Quark EETQ (번역중) HQQ (번역중) Optimum (번역중) Contribute new quantization method

(번역중) 성능 및 확장성

(번역중) Quantization LLM 추론 최적화 어텐션 행렬 캐싱

(번역중) 효율적인 학습 기술들

(번역중) Methods and tools for efficient training on a single GPU 다중 GPU에서 훈련 진행하기 DeepSpeed 완전 분할 데이터 병렬 처리 CPU에서 훈련 다중 CPU에서 훈련하기 Apple 실리콘에서 PyTorch 학습 훈련용 사용자 맞춤형 하드웨어 Trainer API를 사용한 하이퍼파라미터 탐색

추론 최적화하기

CPU로 추론하기 하나의 GPU를 활용한 추론

디버깅 (번역중) Optimize inference using `torch.compile()`

리소스

🤗 Transformers에 기여하는 방법 🤗 Transformers에 새로운 모델을 추가하는 방법 어떻게 🤗 Transformers에 파이프라인을 추가하나요? 테스트 Pull Request에 대한 검사

기여하기

API

메인 클래스

Auto Classes (번역중) Backbones Callbacks Configuration Data Collator Keras callbacks Logging Models 텍스트 생성 ONNX 최적화 모델 출력 PEFT 파이프라인 프로세서 양자화 (번역중) Tokenizer 토크나이저 Trainer (번역중) DeepSpeed ExecuTorch 피쳐 추출기 (번역중) Image Processor (번역중) Video Processor

모델

텍스트 모델

ALBERT Arcee Bamba BART BARThez BARTpho BERT BertGeneration BertJapanese BERTweet BigBird BigBirdPegasus BioGpt BitNet Blenderbot Blenderbot Small BLOOM BORT ByT5 CamemBERT CANINE CodeGen CodeLlama Cohere Cohere2 ConvBERT CPM CPMANT CTRL DBRX DeBERTa DeBERTa-v2 DeepSeek-V3 DialoGPT DiffLlama DistilBERT Doge dots1 DPR ELECTRA Encoder Decoder Models ERNIE ErnieM ESM EXAONE-4.0 Falcon Falcon3 FalconH1 FalconMamba FLAN-T5 FLAN-UL2 FlauBERT FNet FSMT Funnel Transformer Fuyu Gemma Gemma2 GLM glm4 GPT GPT Neo GPT NeoX GPT NeoX Japanese GPT-J GPT-2 GPTBigCode GPTSAN Japanese GPTSw3 Granite GraniteMoe GraniteMoeHybrid GraniteMoeShared Helium HerBERT HGNet-V2 I-BERT Jamba JetMoe Jukebox LED LFM2 LFM2-VL LLaMA Llama2 Llama3 Longformer LongT5 LUKE M2M100 MADLAD-400 Mamba Mamba2 MarianMT MarkupLM MBart and MBart-50 MEGA MegatronBERT MegatronGPT2 MiniMax Mistral Mixtral mLUKE MobileBERT ModernBert ModernBERTDecoder MPNet MPT MRA MT5 MVP myt5 Nemotron NEZHA NLLB NLLB-MoE Nyströmformer OLMo OLMo2 OLMoE Open-Llama OPT Pegasus PEGASUS-X Persimmon Phi Phi-3 PhiMoE PhoBERT PLBart ProphetNet QDQBert Qwen2 Qwen2MoE Qwen3 Qwen3MoE RAG REALM RecurrentGemma Reformer RemBERT RetriBERT RoBERTa RoBERTa-PreLayerNorm RoCBert RoFormer RWKV Splinter SqueezeBERT StableLm Starcoder2 SwitchTransformers T5 T5Gemma T5v1.1 TAPEX Transformer XL UL2 UMT5 X-MOD XGLM XLM XLM-ProphetNet XLM-RoBERTa XLM-RoBERTa-XL XLM-V XLNet YOSO Zamba Zamba2

비전 모델

Aimv2 BEiT BiT Conditional DETR ConvNeXT ConvNeXTV2 CvT D-FINE DAB-DETR DeepSeek-V2 Deformable DETR DeiT Depth Anything Depth Anything V2 DepthPro DETA DETR DiNAT DINOV2 DINOv2 with Registers DiT DPT EfficientFormer EfficientNet EoMT FocalNet GLPN Hiera I-JEPA ImageGPT LeViT LightGlue Mask2Former MaskFormer MLCD MobileNetV1 MobileNetV2 MobileViT MobileViTV2 NAT PoolFormer Prompt Depth Anything Pyramid Vision Transformer (PVT) Pyramid Vision Transformer v2 (PVTv2) RegNet ResNet RT-DETR RT-DETRv2 SegFormer SegGpt SuperGlue SuperPoint SwiftFormer Swin Transformer Swin Transformer V2 Swin2SR Table Transformer TextNet Timm Wrapper UperNet VAN Vision Transformer (ViT) ViT Hybrid ViTDet ViTMAE ViTMatte ViTMSN ViTPose YOLOS ZoeDepth

오디오 모델

Audio Spectrogram Transformer Bark CLAP CSM dac Dia EnCodec FastSpeech2Conformer GraniteSpeech Hubert Kyutai Speech-To-Text MCTCT Mimi MMS Moonshine Moshi MusicGen MusicGen Melody Pop2Piano Seamless-M4T SeamlessM4T-v2 SEW SEW-D Speech2Text Speech2Text2 SpeechT5 UniSpeech UniSpeech-SAT UnivNet VITS Wav2Vec2 Wav2Vec2-BERT Wav2Vec2-Conformer Wav2Vec2Phoneme WavLM Whisper xclip XLS-R XLSR-Wav2Vec2

비디오 모델

TimeSformer V-JEPA 2 VideoMAE ViViT

멀티모달 모델

ALIGN AltCLIP Aria AyaVision BLIP BLIP-2 BridgeTower BROS Chameleon Chinese-CLIP CLIP CLIPSeg CLVP ColPali ColQwen2 Data2Vec DePlot Donut Emu3 FLAVA Gemma3 Gemma3n GIT glm4v GOT-OCR2 GraniteVision (번역중) GIT Grounding DINO GroupViT IDEFICS Idefics2 Idefics3 InstructBLIP InstructBlipVideo InternVL Janus KOSMOS-2 LayoutLM LayoutLMV2 LayoutLMV3 LayoutXLM LiLT Llama4 Llava LLaVA-NeXT LLaVa-NeXT-Video LLaVA-Onevision LXMERT MatCha MGP-STR Mistral3 mllama Nougat OmDet-Turbo OneFormer OWL-ViT OWLv2 PaliGemma Perceiver PerceptionLM Phi4 Multimodal Pix2Struct Pixtral Qwen2.5-Omni Qwen2.5-VL Qwen2Audio Qwen2VL Segment Anything Segment Anything High Quality ShieldGemma2 SigLIP SigLIP2 SmolLM3 소형 비전 언어 모델 Speech Encoder Decoder Models TAPAS TrOCR TVLT TVP UDOP VideoLlava ViLT VipLlava Vision Encoder Decoder Models Vision Text Dual Encoder VisualBERT Voxtral X-CLIP

강화학습 모델

Decision Transformer Trajectory Transformer

시게열 모델

Autoformer Informer PatchTSMixer PatchTST Time Series Transformer TimesFM

그래프 모델

내부 헬퍼(Internal helpers)

사용자 정의 레이어 및 유틸리티 (번역중) Utilities for Model Debugging 파이프라인을 위한 유틸리티 토크나이저를 위한 유틸리티 Trainer를 위한 유틸리티 생성을 위한 유틸리티 이미지 프로세서를 위한 유틸리티 오디오 처리를 위한 유틸리티 일반 유틸리티 (번역중) Importing Utilities 시계열을 위한 유틸리티

Reference

(번역중)Environment Variables

You are viewing v4.57.2 version. A newer version v4.57.3 is available.

Join the Hugging Face community

and get access to the augmented documentation experience

Collaborate on models, datasets and Spaces

Faster examples with accelerated inference

Switch between documentation themes

to get started

열심히 번역 중입니다. 조금 이따 만나요!

Update on GitHub

←🤗 Transformers에 새로운 모델을 추가하는 방법 (번역중) Customizing attention function→

열심히 번역 중입니다. 조금 이따 만나요!