慄子 發自 凹非寺量子位 出品 | 公眾號 QbitAI
PyTorch宣布了視覺工具包torchvision的重大更新。
終於來到torchvision 0.3了。
這次，工具包裡增加了許多新模型：做語義分割的，做目標檢測的，做實例分割的……
也增加了許多數據集，比如ImageNet，CelebA，Caltech 101等等等等。
另外，torchvision還有了不少視覺專用的C++/Cuda算子。
消息一出，小夥伴們紛紛奔走相告。
現在，來仔細觀察一下，新的torchvision都有哪裡變強了。
哪些功能是新來的？
訓練/評估腳本
現在，reference/文件夾地下，提供了訓練和評估用的腳本，支持許多任務：
分類、語義分割、目標檢測、實例分割，以及人物關鍵點檢測。
這些腳本可以當做log：寫著某一個特定的模型要怎樣訓練，並且提供了基線。有了這份快速指引，便於順利展開研究。
torchvision算子
就像開頭提到的那樣，torchvision這次有了定製的C++/CUDA算子，計算機視覺專用。
有了這些算子，搭建目標檢測模型就更加輕鬆了：
· roi_pool (以及模塊版本RoIPool)· roi_align (以及模塊版本RoIAlign)· nms，給邊界框做非極大抑制 (Non-Maximum Suppression用的)· box_iou，用來計算兩組邊界框之間的交集· box_area, 用來計算一組邊界框的面積
等到下次更新，這些算子就會支持PyTorch腳本模式了。
至於這些算子怎麼用，官方給出了一些例子：
哪些模型是新來的？
既然，目標檢測、實例分割，以及人物關鍵點檢測模型的支持，全部是最新加入的。
那麼，就來看看增加了哪些模型吧：
分割模型
官方博客寫到，torchvision 0.3新加入了FCN和DeepLabV3分割模型，用了ResNet50和ResNet101骨架。
ResNet101有預訓練的權重可用，是在COCO train2017數據集的一個子集上訓練的，20個類別和Pascal VOC一致：
檢測模型
torchvision 0.3新包含了預訓練的Faster R-CNN、Mask R-CNN以及Keypoint R-CNN。
官方還提到，各種模型的實現都很快，尤其是訓練過程很快。
(團隊用了8個V100 GPU，帶有CUDA 10.0和CUDNN 7.4的那種。訓練中每個GPU的批尺寸是2，測試中的批尺寸是1。)
速度如下，都是毫秒級：
而且，只要寫幾行代碼，就可以直接加載、運行那些預訓練的檢測模型與分割模型了：
import torchvisionmodel = torchvision.models.detection.maskrcnn_resnet50_fpn(pretrained=True)# set it to evaluation mode, as the model behaves differently# during training and during evaluationmodel.eval()image = PIL.Image.open('/path/to/an/image.jpg')image_tensor = torchvision.transforms.functional.to_tensor(image)# pass a list of (potentially different sized) tensors# to the model, in 0-1 range. The model will take care of# batching them together and normalizingoutput = model([image_tensor])# output is a list of dict, containing the postprocessed predictions
分類模型
新加入的分類模型有這些：
· GoogLeNet (Inception v1)· MobiliNet V2· ShuffleNet v2· ResNeXt-50 32x4d，以及ResNeXt-101 32x8d
哪些數據集是新來的？
先看人臉數據集，加入了這些：
Caltech101，Caltech256，以及CelebA
然後，ImageNet也加入了。
還有，Semantic Boundaries Dataset(語義邊界數據集) 。
以及，VisionDataset，作為各種數據集的基類 (base class) 。
快去用一下
如果你還有什麼疑問，可以觀察更詳細的發布說明。
如果你不知道怎麼用，可以服用Colab教程。
如果你已經準備好了，就開始用新的torchvision去做項目吧。
torchvision 0.3.0
https://pypi.org/project/torchvision/
Colab教程：
https://colab.research.google.com/github/pytorch/vision/blob/temp-tutorial/tutorials/torchvision_finetuning_instance_segmentation.ipynb
詳細的發布說明：
https://github.com/pytorch/vision/releases