timm documentation
GCViT
GCViT
Kategori: ViT · Kod: timm/models/gcvit.py · Mimariler: 5 · Önceden eğitilmiş ağırlıklar: 5 (5 tanesi ImageNet-1k sonuçlarıyla)
Global Context Vision Transformers (GCViT), yerel pencere dikkati ile global bağlam dikkatini değiştirerek kullanır; global bağlam dikkatinin sorguları, konvolüsyonel bir modül tarafından tüm özellik haritasından üretilir.
Makaleler
Kullanım
Önceden eğitilmiş ağırlıkları yükleme, görüntü ön işleme ve ince ayar için Hızlı Başlangıç bölümüne, modelleri omurga olarak kullanmak için ise Özellik Çıkarımı bölümüne bakın.
>>> import timm
>>> model = timm.create_model('gcvit_tiny.in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)Model API desteği
✓ destekleniyor, ✓ (kare) yalnızca kare boyutlarda çalışır, ✗ desteklenmiyor, – gerekli değil (model zaten herhangi bir giriş boyutunu kabul eder). Her özellik, rastgele başlatılmış bir model üzerinde çalıştırılarak kontrol edilir (GlobalContextVit için gcvit_xxtiny, 224 boyutunda), aynı sınıftaki diğer mimarilerin de aynı şekilde davranması beklenir. Ayrıntılar için Model API sayfasına bakın.
Mimariler
| Mimari | Parametreler (M) | GMAC'lar | Girdi boyutu | Önceden eğitilmiş ağırlıklar |
|---|---|---|---|---|
gcvit_base | 90.32 | 14.87 | 224 | 1 |
gcvit_small | 51.09 | 8.57 | 224 | 1 |
gcvit_tiny | 28.22 | 4.79 | 224 | 1 |
gcvit_xtiny | 19.98 | 2.93 | 224 | 1 |
gcvit_xxtiny | 12.00 | 2.14 | 224 | 1 |
GMAC'lar ve parametre sayıları, her mimarinin varsayılan giriş boyutu ve sınıflandırıcısı içindir ve benchmark sonuçlarından alınmıştır.
Önceden eğitilmiş ağırlıklar
Top-1, belirtilen değerlendirme boyutunda results-imagenet.csv dosyasındaki ImageNet-1k doğrulama doğruluğudur; ağırlığın ImageNet-1k sonucu yoksa (ör. ön eğitim veya görsel-metin ağırlıkları) bu değer "-" olarak gösterilir. Classes, ön eğitilmiş sınıflandırıcının boyutudur; sınıflandırıcısı olmayan ağırlıklar için bu değer "none"dur.
| Ağırlık | Girdi boyutu | En iyi 1 (%) | Değerlendirme boyutu | Sınıflar | Lisans | Hub |
|---|---|---|---|---|---|---|
gcvit_base.in1k | 224 | 84.456 | 224 | 1000 | apache-2.0 | orijinal |
gcvit_small.in1k | 224 | 83.904 | 224 | 1000 | apache-2.0 | orijinal |
gcvit_tiny.in1k | 224 | 83.400 | 224 | 1000 | apache-2.0 | orijinal |
gcvit_xtiny.in1k | 224 | 81.964 | 224 | 1000 | apache-2.0 | orijinal |
gcvit_xxtiny.in1k | 224 | 79.756 | 224 | 1000 | apache-2.0 | orijinal |
Atıf
@article{hatamizadeh2022global,
title={Global Context Vision Transformers},
author={Hatamizadeh, Ali and Yin, Hongxu and Kautz, Jan and Molchanov, Pavlo},
journal={arXiv preprint arXiv:2206.09959},
year={2022}
}