timm documentation

VOLO

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

VOLO

Catégorie : ViT · Code : timm/models/volo.py · Architectures : 11 · Poids pré-entraînés : 11 (11 avec des résultats sur ImageNet-1k)

Vision Outlooker (VOLO) ajoute l'attention outlook, qui encode des caractéristiques de niveau fin à partir de voisinages locaux, avant les étapes du transformateur qui opèrent sur des jetons plus grossiers.

Articles

Utilisation

Consultez le Démarrage rapide pour le chargement des poids pré-entraînés, le prétraitement des images et l’ajustement fin, ainsi que Extraction de caractéristiques pour utiliser les modèles comme squelettes.

>>> import timm
>>> model = timm.create_model('volo_d1_224.sail_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

Prise en charge de l'API des modèles

FonctionnalitéVOLO
cartes de caractéristiques features_only=True✓ (pas 16, 16, 16)
forward_intermediates()✓
prune_intermediate_layers()✓
Toute taille d'entrée, aucune modification nécessaire✗
set_input_size()✗
dynamic_img_size=True✗
set_grad_checkpointing()✓
Décroissance du taux d'apprentissage par couche (group_matcher())✓
reset_classifier()✓

✓ pris en charge, ✓ (carré) fonctionne uniquement pour les tailles carrées, ✗ non pris en charge, – non nécessaire (le modèle accepte déjà n'importe quelle taille d'entrée). Vérifié en exécutant chaque fonctionnalité sur un modèle initialisé aléatoirement (VOLO avec volo_d1_224 à 224), les autres architectures de la même classe sont censées se comporter de la même manière. Consultez la page API du modèle pour plus de détails.

Architectures

ArchitectureParamètres (M)GMACsTaille d'entréePoids pré-entraînés
volo_d1_22426.636.942241
volo_d1_38426.7822.753841
volo_d2_22458.6814.342241
volo_d2_38458.8746.173841
volo_d3_22486.3320.782241
volo_d3_44886.6396.334481
volo_d4_224192.9644.342241
volo_d4_448193.41197.134481
volo_d5_224295.4672.402241
volo_d5_448295.91315.064481
volo_d5_512296.09425.095121

Les GMACs et le nombre de paramètres correspondent à la taille d’entrée par défaut et au classifieur de chaque architecture, d’après les résultats des benchmarks.

Poids pré-entraînés

Top-1 est la précision de validation sur ImageNet-1k issue de results-imagenet.csv à la taille d'évaluation indiquée, - si le poids n'a pas de résultat ImageNet-1k (par exemple, poids de pré-entraînement ou poids image-texte). Classes est la taille du classifieur pré-entraîné, aucune pour les poids sans classifieur.

PoidsTaille d'entréeTop-1 (%)Taille d'évaluationClassesLicenceHub
volo_d1_224.sail_in1k22484.1482241000apache-2.0timm
volo_d1_384.sail_in1k38485.2623841000apache-2.0timm
volo_d2_224.sail_in1k22485.2042241000apache-2.0timm
volo_d2_384.sail_in1k38486.0543841000apache-2.0timm
volo_d3_224.sail_in1k22485.4402241000apache-2.0timm
volo_d3_448.sail_in1k44886.5144481000apache-2.0timm
volo_d4_224.sail_in1k22485.8682241000apache-2.0timm
volo_d4_448.sail_in1k44886.7884481000apache-2.0timm
volo_d5_224.sail_in1k22486.0762241000apache-2.0timm
volo_d5_448.sail_in1k44886.9744481000apache-2.0timm
volo_d5_512.sail_in1k51287.0685121000apache-2.0timm
Update on GitHub