timm documentation
EfficientViT (MSRA)
EfficientViT (MSRA)
카테고리: Efficient/Mobile · 코드: timm/models/efficientvit_msra.py · 아키텍처: 6 · 프리트레이닝 가중치: 6 (ImageNet-1k 결과 포함 6개)
Microsoft Research의 EfficientViT는 메모리가 효율적인 비전 트랜스포머로, 각 어텐션 헤드에 피처의 서로 다른 분할을 입력하는 캐스케이디드 그룹 어텐션을 사용합니다.
논문
사용
사전 학습된 가중치 로드, 이미지 전처리 및 파인튜닝에 대해서는 Quickstart를, 모델을 백본으로 사용하는 방법에 대해서는 Feature Extraction을 참고하세요.
>>> import timm
>>> model = timm.create_model('efficientvit_m5.r224_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)모델 API 지원
✓ 지원됨, ✓ (정사각형) 정사각형 크기만 지원됨, ✗ 미지원, – 필요 없음(모델이 이미 모든 입력 크기를 허용함). 무작위로 초기화된 모델(EfficientVitMsra의 efficientvit_m0, 224)에서 각 기능을 실행하여 확인했습니다. 같은 클래스의 다른 아키텍처도 동일한 동작을 하는 것으로 예상됩니다. 자세한 내용은 Model API 페이지를 참조하세요.
아키텍처
| 아키텍처 | 매개변수 (M) | GMAC | 입력 크기 | 사전 학습된 가중치 |
|---|---|---|---|---|
efficientvit_m0 | 2.33 | 0.08 | 224 | 1 |
efficientvit_m1 | 2.96 | 0.17 | 224 | 1 |
efficientvit_m2 | 4.17 | 0.20 | 224 | 1 |
efficientvit_m3 | 6.88 | 0.26 | 224 | 1 |
efficientvit_m4 | 8.78 | 0.30 | 224 | 1 |
efficientvit_m5 | 12.44 | 0.52 | 224 | 1 |
GMACs와 매개변수 수는 각 아키텍처의 기본 입력 크기 및 분류기에 대한 값이며, 벤치마크 결과에서 가져왔습니다.
사전 학습된 가중치
Top-1은 results-imagenet.csv에 나열된 평가 크기에서 측정된 ImageNet-1k 검증 정확도입니다. - 가중치에 ImageNet-1k 결과가 없는 경우(예: 사전 학습 또는 이미지-텍스트 가중치)에는 표시하지 않습니다. Classes는 사전 학습된 분류기의 크기를 나타내며, 분류기가 없는 가중치의 경우 none입니다.
| 가중치 | 입력 크기 | Top-1(%) | 평가 크기 | 클래스 | 라이선스 | Hub |
|---|---|---|---|---|---|---|
efficientvit_m0.r224_in1k | 224 | 63.304 | 224 | 1000 | mit | timm |
efficientvit_m1.r224_in1k | 224 | 68.340 | 224 | 1000 | mit | timm |
efficientvit_m2.r224_in1k | 224 | 70.796 | 224 | 1000 | mit | timm |
efficientvit_m3.r224_in1k | 224 | 73.394 | 224 | 1000 | mit | timm |
efficientvit_m4.r224_in1k | 224 | 74.344 | 224 | 1000 | mit | timm |
efficientvit_m5.r224_in1k | 224 | 77.092 | 224 | 1000 | mit | timm |