Hugging Face's logo

timm documentation

LowFormer

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

LowFormer

カテゴリ: Efficient/Mobile · コード: timm/models/lowformer.py · アーキテクチャ: 8 · 事前学習済み重み: 7 (ImageNet-1kの結果を持つものは0)

LowFormerは、ハードウェア効率（MACsではなくスループットとレイテンシで測定）のために設計された畳み込みトランスフォーマーバックボーンです。E1 / E2 / E3のエッジGPUバリアントは、ジャーナル拡張版から提供されています。

論文

使用方法

事前学習済み重みの読み込み、画像の前処理、ファインチューニングについてはクイックスタートを、モデルをバックボーンとして使用する方法については特徴量抽出を参照してください。

>>> import timm
>>> model = timm.create_model('lowformer_b0.in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

モデルAPIのサポート

機能LowFormer
features_only=True 特徴マップ✓ (ストライド 4, 8, 16, 32)
forward_intermediates()✓
prune_intermediate_layers()✓
入力サイズは任意で、変更は不要です✓
set_input_size()–
dynamic_img_size=True–
set_grad_checkpointing()✓
レイヤーごとのLR減衰（group_matcher()）✓
reset_classifier()✓

✓ 対応、✓ (square) 正方形サイズのみ対応、✗ 非対応、– 不要（モデルは任意の入力サイズを既に受け付ける）。各機能をランダム初期化されたモデル（LowFormer、lowformer_b0、224）で実行して確認しています。同じクラスの他のアーキテクチャも同様に動作すると予想されます。詳細はModel APIページを参照してください。

アーキテクチャ

アーキテクチャパラメータ数 (M)GMACs入力サイズ事前学習済み重み
lowformer_b014.10-2241
lowformer_b117.94-2241
lowformer_b244.99-2240
lowformer_b357.09-2241
lowformer_b1533.98-2241
lowformer_e118.90-2241
lowformer_e222.75-2241
lowformer_e341.32-2241

GMACsとパラメータ数は、各アーキテクチャのデフォルトの入力サイズと分類器に基づいており、ベンチマーク結果から得られたものです。

事前学習済み重み

Top-1 は、results-imagenet.csv に記載された評価サイズでの ImageNet-1k 検証精度です。- は、ImageNet-1k の結果がない重み（例: プリトレーニング用または画像-テキスト用重み）を示します。Classes は事前学習済み分類器のサイズで、分類器を持たない重みについては none です。

重み入力サイズTop-1 (%)評価サイズクラスライセンスHub
lowformer_b0.in1k224--1000apache-2.0timm
lowformer_b1.in1k224--1000apache-2.0timm
lowformer_b3.in1k224--1000apache-2.0timm
lowformer_b15.in1k224--1000apache-2.0timm
lowformer_e1.in1k224--1000apache-2.0timm
lowformer_e2.in1k224--1000apache-2.0timm
lowformer_e3.in1k224--1000apache-2.0timm

引用

@article{Nottebaum2024LowFormerHE,
  title={LowFormer: Hardware Efficient Design for Convolutional Transformer Backbones},
  author={Moritz Nottebaum and Matteo Dunnhofer and Christian Micheloni},
  journal={2025 IEEE/CVF Winter Conference on Applications of Computer Vision (WACV)},
  year={2024},
  pages={7008-7018},
}

@article{Nottebaum2026BeyondMACs,
  author  = {Nottebaum, Moritz and Dunnhofer, Matteo and Micheloni, Christian},
  title   = {Beyond {MAC}s: Hardware Efficient Architecture Design for Vision Backbones},
  journal = {International Journal of Computer Vision},
  year    = {2026},
  volume  = {134},
  number  = {6},
  pages   = {295},
  doi     = {10.1007/s11263-026-02873-5},
  url     = {https://doi.org/10.1007/s11263-026-02873-5}
}
Update on GitHub

←iFormer MobileNet-V3→