MobileViT

カテゴリ: Efficient/Mobile · コード: timm/models/mobilevit.py · アーキテクチャ: 10 · 事前学習済み重み: 16 (ImageNet-1kの結果を含む16)

MobileViTは、MobileNet-V2のインバーテッド・レシデュアルブロックと、アンフォールドされたパッチに対してtransformerを適用してグローバル処理を行うMobileViTブロックを組み合わせます。MobileViT-V2は、セパラブル・セルフアテンションを使用します。ByobNetクラスをベースに構築されています。

論文

• MobileViT: 軽量で汎用的、かつモバイルフレンドリーなビジョン・トランスフォーマー
• モバイルビジョンTransformer向けセパラブル自己注意

使用方法

事前学習済み重みの読み込み、画像の前処理、ファインチューニングについてはクイックスタートを、モデルをバックボーンとして使用する方法については特徴量抽出を参照してください。

>>> import timm
>>> model = timm.create_model('mobilevitv2_200.cvnets_in1k', pretrained=True)
>>> data_config = timm.data.resolve_model_data_config(model)

モデルAPIのサポート

✓ 対応、✓ (square) 正方形サイズのみ対応、✗ 非対応、– 不要（モデルは任意の入力サイズを既に受け付ける）。各機能をランダム初期化されたモデル（ByobNet の mobilevit_xxs、256）で実行して確認しています。同じクラスの他のアーキテクチャも同様に動作すると考えられます。詳細はModel APIページを参照してください。

アーキテクチャ

GMACsとパラメータ数は、各アーキテクチャのデフォルトの入力サイズと分類器に基づいており、ベンチマーク結果から得られたものです。

事前学習済み重み

Top-1 は、results-imagenet.csv に記載された評価サイズでの ImageNet-1k 検証精度です。- は、ImageNet-1k の結果がない重み（例: プリトレーニング用または画像-テキスト用重み）を示します。Classes は事前学習済み分類器のサイズで、分類器を持たない重みについては none です。