timm documentation

Görüntü Dönüşümcüsü (göreli konum)

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Görüntü Dönüşümcüsü (göreli konum)

Kategori: ViT · Kod: timm/models/vision_transformer_relpos.py · Mimariler: 14 · Önceden eğitilmiş ağırlıklar: 9 (9 tanesi ImageNet-1k sonuçlarıyla)

Mutlak konum gömme yerine göreli konum önyargıları kullanan Vision Transformers. Modül dokümantasyon dizgesi bu modelleri deneysel olarak işaretler.

Makaleler

Kullanım

Önceden eğitilmiş ağırlıkları yükleme, görüntü ön işleme ve ince ayar için Hızlı Başlangıç bölümüne, modelleri omurga olarak kullanmak için ise Özellik Çıkarımı bölümüne bakın.

>>> import timm
>>> model = timm.create_model('vit_relpos_small_patch16_224.sw_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Model API desteği

ÖzellikVisionTransformerRelPos
features_only=True özellik haritaları✓ (adım 16, 16, 16)
forward_intermediates()✓
prune_intermediate_layers()✓
Herhangi bir giriş boyutu, değişiklik gerekmez✗
set_input_size()✓
dynamic_img_size=True✗
set_grad_checkpointing()✓
Katman bazlı LR azaltma (group_matcher())✓
reset_classifier()✓

✓ destekleniyor, ✓ (kare) yalnızca kare boyutlarda çalışır, ✗ desteklenmiyor, – gerekli değil (model zaten herhangi bir giriş boyutunu kabul eder). Her özellik, rastgele başlatılmış bir model üzerinde çalıştırılarak kontrol edilir (VisionTransformerRelPos, 224 boyutunda vit_srelpos_small_patch16_224 ile); aynı sınıftaki diğer mimarilerin de aynı şekilde davranması beklenir. Ayrıntılar için Model API sayfasına bakın.

Mimariler

MimariParametreler (M)GMAC'larGirdi boyutuÖnceden eğitilmiş ağırlıklar
test_vit_relpos0.85-1600
vit_relpos_base_patch16_22486.4317.512241
vit_relpos_base_patch16_cls_22486.4317.602240
vit_relpos_base_patch16_clsgap_22486.4317.602241
vit_relpos_base_patch16_plus_240117.3827.302400
vit_relpos_base_patch16_rpn_22486.4117.512240
vit_relpos_base_patch32_plus_rpn_256119.427.682561
vit_relpos_medium_patch16_22438.757.972241
vit_relpos_medium_patch16_cls_22438.768.032241
vit_relpos_medium_patch16_rpn_22438.737.972241
vit_relpos_small_patch16_22421.984.592241
vit_relpos_small_patch16_rpn_22421.974.592240
vit_srelpos_medium_patch16_22438.747.962241
vit_srelpos_small_patch16_22421.974.592241

GMAC'lar ve parametre sayıları, her mimarinin varsayılan giriş boyutu ve sınıflandırıcısı içindir ve benchmark sonuçlarından alınmıştır.

Önceden eğitilmiş ağırlıklar

Top-1, belirtilen değerlendirme boyutunda results-imagenet.csv dosyasındaki ImageNet-1k doğrulama doğruluğudur; ağırlığın ImageNet-1k sonucu yoksa (ör. ön eğitim veya görsel-metin ağırlıkları) bu değer "-" olarak gösterilir. Classes, ön eğitilmiş sınıflandırıcının boyutudur; sınıflandırıcısı olmayan ağırlıklar için bu değer "none"dur.

AğırlıkGirdi boyutuEn iyi 1 (%)Değerlendirme boyutuSınıflarLisansHub
vit_relpos_base_patch16_224.sw_in1k22482.4822241000apache-2.0timm
vit_relpos_base_patch16_clsgap_224.sw_in1k22482.7582241000apache-2.0timm
vit_relpos_base_patch32_plus_rpn_256.sw_in1k25679.5082561000apache-2.0timm
vit_relpos_medium_patch16_224.sw_in1k22482.4622241000apache-2.0timm
vit_relpos_medium_patch16_cls_224.sw_in1k22482.5582241000apache-2.0timm
vit_relpos_medium_patch16_rpn_224.sw_in1k22482.3142241000apache-2.0timm
vit_relpos_small_patch16_224.sw_in1k22481.4762241000apache-2.0timm
vit_srelpos_medium_patch16_224.sw_in1k22482.2562241000apache-2.0timm
vit_srelpos_small_patch16_224.sw_in1k22481.1082241000apache-2.0timm
Update on GitHub