timm documentation

PVTv2

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

PVTv2

الفئة: ViT · الكود: timm/models/pvt_v2.py · الهندسات: 7 · الأوزان المُسبقة التدريب: 7 (7 منها بنتائج على ImageNet-1k)

Pyramid Vision Transformer v2، وهو محوّل هرمي مع انتباه اختزال مكاني (خطي في النسخة _li)، وتضمينات رقعات متداخلة وطبقات تغذية أمامية تلافيفية.

الأوراق البحثية

الاستخدام

راجع البدء السريع لتحميل الأوزان المُسبقة التدريب ومعالجة الصور مسبقًا وضبط الدقة، وراجع استخراج الميزات لاستخدام النماذج كعمود فقري.

>>> import timm
>>> model = timm.create_model('pvt_v2_b2.in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

دعم واجهة برمجة التطبيقات للنماذج

ميزةPyramidVisionTransformerV2
خرائط الميزات features_only=True✓ (خطوات 4، 8، 16، 32)
forward_intermediates()✓
prune_intermediate_layers()✓
أي حجم إدخال، دون الحاجة إلى أي تغييرات✓
set_input_size()–
dynamic_img_size=True–
set_grad_checkpointing()✓
تلاشي معدل التعلم على مستوى الطبقات (group_matcher())✓
reset_classifier()✓

✓ مدعوم، ✓ (مربع) يعمل مع الأحجام المربعة فقط، ✗ غير مدعوم، – غير مطلوب (يقبل النموذج بالفعل أي حجم إدخال). تم التحقق من ذلك بتشغيل كل ميزة على نموذج مُهيأ عشوائياً (PyramidVisionTransformerV2 مع pvt_v2_b0 عند 224)، ومن المتوقع أن تتصرف البنى المعمارية الأخرى من نفس الفئة بنفس الطريقة. راجع صفحة واجهة برمجة النموذج للتفاصيل.

البنى

البنيةالمعاملات (مليون)GMACsحجم الإدخالالأوزان المُسبقة التدريب
pvt_v2_b03.670.572241
pvt_v2_b114.012.122241
pvt_v2_b225.364.052241
pvt_v2_b2_li22.553.912241
pvt_v2_b345.246.922241
pvt_v2_b462.5610.142241
pvt_v2_b581.9611.762241

تُحسب قيم GMACs وعدد المعلمات لحجم المدخلات الافتراضي والتصنيف الخاص بكل معمارية، وذلك بناءً على نتائج الاختبارات المرجعية.

الأوزان المُسبقة التدريب

Top-1 هو دقة التحقق على ImageNet-1k من results-imagenet.csv عند حجم التقييم المذكور، - إذا لم يكن للوزن نتيجة على ImageNet-1k (مثل أوزان ما قبل التدريب أو أوزان الصورة-النص). Classes هو حجم المصنِّف المُدرَّب مسبقًا، ولا يوجد شيء للأوزان التي لا تحتوي على مصنِّف.

الوزنحجم الإدخالأعلى 1 (%)حجم التقييمفئاترخصةالمركز
pvt_v2_b0.in1k22470.6542241000apache-2.0timm
pvt_v2_b1.in1k22478.6982241000apache-2.0timm
pvt_v2_b2.in1k22482.0622241000apache-2.0timm
pvt_v2_b2_li.in1k22482.2002241000apache-2.0timm
pvt_v2_b3.in1k22483.1202241000apache-2.0timm
pvt_v2_b4.in1k22483.7102241000apache-2.0timm
pvt_v2_b5.in1k22483.7602241000apache-2.0timm

الاستشهاد

@misc{wang2021pvtv2,
      title={PVTv2: Improved Baselines with Pyramid Vision Transformer},
      author={Wenhai Wang and Enze Xie and Xiang Li and Deng-Ping Fan and Kaitao Song and Ding Liang and
        Tong Lu and Ping Luo and Ling Shao},
      year={2021},
      eprint={2106.13797},
      archivePrefix={arXiv},
      primaryClass={cs.CV}
}
Update on GitHub