이 모델은 2015-12-10에 HF papers에 게시되었으며, 2022-03-14에 Hugging Face Transformers에 기여되었습니다.

ResNet

개요

ResNet 모델은 Kaiming He, Xiangyu Zhang, Shaoqing Ren, Jian Sun이 Deep Residual Learning for Image Recognition에서 제안했습니다. 저희 구현은 Nvidia가 적용한 작은 변경 사항을 따르며, downsampling을 bottleneck의 첫 번째 1x1 conv가 아닌 3x3 conv에 stride=2를 적용하는 방식을 사용합니다. 이는 일반적으로 “ResNet v1.5”로 알려져 있습니다.

ResNet은 잔차 연결을 도입하여, 이전에 볼 수 없었던 층 수(최대 1000개)까지의 네트워크를 학습할 수 있게 했습니다. ResNet은 2015년 ILSVRC & COCO 경연에서 우승하여, 딥 컴퓨터 비전의 중요한 이정표를 세웠습니다.

해당 논문의 초록은 다음과 같습니다:

더 깊은 신경망은 학습이 더 어렵습니다. 이전에 사용되었던 것보다 훨씬 더 깊은 네트워크의 학습을 용이하게 하기 위해 잔차 학습 프레임워크를 제시합니다. 레이어를 참조되지 않는 함수를 학습하는 대신, 레이어 입력을 기준으로 잔차 함수를 학습하도록 명시적으로 재구성합니다. 이러한 잔차 네트워크가 최적화가 더 쉽고, 상당한 깊이 증가에도 불구하고 정확도를 향상시킬 수 있음을 보여주는 포괄적인 실증적 증거를 제공합니다. ImageNet 데이터셋에서 최대 152층 깊이의 잔차 네트워크를 평가했는데, 이는 VGG 네트워크보다 8배 더 깊지만 여전히 복잡도가 더 낮습니다. 이러한 잔차 네트워크의 앙상블은 ImageNet 테스트 세트에서 3.57%의 오류를 달성했습니다. 이 결과는 ILSVRC 2015 분류 작업에서 1위를 차지했습니다. 또한 100층과 1000층에 대한 CIFAR-10 분석을 제시합니다. 표현의 깊이는 많은 시각 인식 작업에서 핵심적인 중요성을 가집니다. 극도로 깊은 표현 덕분에 COCO 객체 감지 데이터셋에서 28%의 상대적 개선을 얻었습니다. 깊은 잔차 네트워크는 ILSVRC & COCO 2015 대회에 제출한 모델의 기반이 되었으며, ImageNet 감지, ImageNet 위치 파악, COCO 감지, COCO 분할 작업에서도 1위를 차지했습니다.

아래 그림은 ResNet의 아키텍처를 보여줍니다. 원 논문에서 가져왔습니다.

이 모델은 Francesco가 기여했습니다. 원본 코드는 여기에서 찾을 수 있습니다.

리소스

ResNet을 시작하는 데 도움이 되는 공식 Hugging Face 및 커뮤니티(🌎로 표시) 리소스 목록입니다.

• ResNetForImageClassification은 이 노트북에서 지원됩니다.
• 참고: 이미지 분류 작업 가이드

여기에 포함할 리소스를 제출하고 싶으시면 Pull Request를 열어 주시면 검토하겠습니다! 기존 리소스와 중복되지 않고 새로운 것을 보여주는 것이 이상적입니다.

ResNetConfig

>>> from transformers import ResNetConfig, ResNetModel

>>> # Initializing a ResNet resnet-50 style configuration
>>> configuration = ResNetConfig()

>>> # Initializing a model (with random weights) from the resnet-50 style configuration
>>> model = ResNetModel(configuration)

>>> # Accessing the model configuration
>>> configuration = model.config

ResNetModel

ResNetForImageClassification

>>> from transformers import AutoImageProcessor, ResNetForImageClassification
>>> import torch
>>> from datasets import load_dataset

>>> dataset = load_dataset("huggingface/cats-image")
>>> image = dataset["test"]["image"][0]

>>> image_processor = AutoImageProcessor.from_pretrained("microsoft/resnet-50")
>>> model = ResNetForImageClassification.from_pretrained("microsoft/resnet-50")

>>> inputs = image_processor(image, return_tensors="pt")

>>> with torch.no_grad():
...     logits = model(**inputs).logits

>>> # model predicts one of the 1000 ImageNet classes
>>> predicted_label = logits.argmax(-1).item()
>>> print(model.config.id2label[predicted_label])
...