PyTorch 1.0 正式版發布了!

2021-01-08 機器之心Pro

選自code.fb

作者：ZACH DEVITO、YANGQING JIA、DMYTRO DZHULGAKOV、SOUMITH CHINTALA、JOSEPH SPISAK

機器之心編譯

在今年 10 月舉辦的首屆 PyTorch 開發者大會上，Facebook 宣布了有關該框架生態的一系列更新，包括軟體、硬體和教育方面的合作。同時放出了 PyTorch 1.0 預覽版。近日，在 NeurIPS 2018 大會上，Facebook 官方宣布 PyTorch 1.0 正式版發布了。

GitHub 地址：https://github.com/pytorch/pytorch/releases/tag/v1.0.0

PyTorch 1.0 同時面向產品化 AI 和突破性研究的發展，「我們在 PyTorch1.0 發布前解決了幾大問題，包括可重用、性能、程式語言和可擴展性。」Facebook 人工智慧副總裁 Jerome Pesenti 曾在 PyTorch 開發者大會上表示。

隨著 PyTorch 生態系統及社區中有趣新項目及面向開發者的教育資源不斷增加，今天 Facebook 在 NeurIPS 大會上發布了 PyTorch 1.0 穩定版。該版本具備生產導向的功能，同時還可以獲得主流雲平臺的支持。

現在，研究人員及工程師可以輕鬆利用這一開源深度學習框架的新功能，包括可在 eager execution 和 graph execution 模式之間無縫轉換的混合前端、改進的分布式訓練、用於高性能研究的純 C++ 前端，以及與雲平臺的深度集成。

PyTorch 1.0 將加速 AI 從原型到生產部署的工作流程，並使這一進程更加容易開始。僅僅在過去的幾個月裡，就不斷有人通過廣泛普及的新教學課程上手 PyTorch，一些專家還構建了創新型項目，將這一框架擴展到從自然語言處理到概率編程的多個領域。

不斷壯大的 PyTorch 社區

PyTorch 於 2017 年初首發，之後迅速成為 AI 研究者廣泛使用的框架。PyTorch 靈活、動態的編程環境及對用戶友好的界面使其非常適用於快速實驗。其社區的迅速壯大有目共睹。如今，PyTorch 已經成為 GitHub 上增長第二快的開源項目，在過去的 12 個月裡貢獻者增加了 1.8 倍。

為對社區做出回饋，Facebook 將繼續提供簡單易學的教育課程，通過這些課程幫助開發者掌握用 PyTorch 創建、訓練及部署機器學習模型的技巧。

教育課程將 AI 開發者凝聚在一起

去年，Udacity 和 Facebook 上線了一門新課程《Introduction to Deep Learning with PyTorch》和 PyTorch 挑戰賽（PyTorch Challenge Program），它為持續 AI 教育提供獎學金。在課程發布後的短短幾周內，數萬學生積極參與該在線項目。此外，該教育課程開始通過現實世界的會面（meet-up）使開發者社區變得更有凝聚力，這種 meet-up 在全世界展開，從英國到印度尼西亞都有這樣的開發者聚會。

完整課程可在 Udacity 網站上免費獲取，之後開發者可以在更高級的 AI 納米學位項目中繼續 PyTorch 學習。

除了在線教育課程，fast.ai 等組織還提供過軟體庫，支持開發者學習如何使用 PyTorch 構建神經網絡。fastai 庫（簡化了訓練快速、準確的神經網絡的流程）在發布兩個月後即在 GitHub 獲得 10000 星。

新項目拓展 PyTorch

PyTorch 已被應用到從圖像識別到機器翻譯的多個用例中。因此可以看到開發者社區各種項目對 PyTorch 開發的拓展和支持。其中一些項目有：

Horovod：分布式訓練框架，讓開發人員可以輕鬆地使用單個 GPU 程序，並快速在多個 GPU 上訓練。PyTorch Geometry：PyTorch 的幾何計算機視覺庫，提供一組路徑和可區分的模塊。TensorBoardX：一個將 PyTorch 模型記錄到 TensorBoard 的模塊，允許開發者使用可視化工具訓練模型。

此外，Facebook 內部團隊還構建並開源了多個 PyTorch 項目，如 Translate（用於訓練基於 Facebook 機器翻譯系統的序列到序列模型的庫）。對於想要快速啟動特定領域研究的 AI 開發者來說，PyTorch 支持項目的生態系統使他們能夠輕鬆了解行業前沿研究。希望隨著 PyTorch 不斷發展，社區能夠出現更多新的項目。

從雲端啟動

為了使 PyTorch 更加易於獲取且對用戶友好，PyTorch 團隊繼續深化與雲平臺和雲服務的合作，如 AWS、谷歌雲平臺、微軟 Azure。最近，AWS 上線了 Amazon SageMaker Neo，支持 PyTorch，允許開發者使用 PyTorch 構建機器學習模型，訓練模型，然後將它們部署在雲端或邊緣設備，且性能提升高達 2 倍。開發者現在可以在谷歌雲平臺上創建一個新的深度學習虛擬機實例來嘗試使用 PyTorch 1.0，參見：https://cloud.google.com/deep-learning-vm/docs/pytorch_start_instance。

此外，微軟 Azure 機器學習服務現在也可以廣泛使用了，它允許數據科學家在 Azure 上無縫訓練、管理和部署 PyTorch 模型。使用 Azure 服務的 Python SDK，Python 開發者可以利用所需的分布式計算能力，使用 PyTorch 1.0 規模化訓練模型，並加速從訓練到生產的過程。

AI 開發者可通過雲服務或本地安裝來輕鬆使用 PyTorch 1.0，並遵循 PyTorch 官網上更新版分步教程執行任務，比如使用混合前端部署序列到序列模型，訓練簡單的 chatbot 等等。PyTorch 1.0 版本說明參見 PyTorch GitHub：https://github.com/pytorch/pytorch/releases。

原文連結：https://code.fb.com/ai-research/pytorch-developer-ecosystem-expands-1-0-stable-release/

相關焦點

  • PyTorch 0.2發布:更多NumPy特性,高階梯度、分布式訓練等
    李林 編譯整理量子位 報導 | 公眾號 QbitAIFacebook的機器學習框架（之一）PyTorch今天發布了新版本：0.2.0。這一版本引入了NumPy風格的Broadcasting、Advanced Indexing，增加了高階梯度和分布式PyTorch。
  • 分離硬體和代碼、穩定 API,PyTorch Lightning 1.0.0 版本正式發布
    今日，PyTorch Lightning 在推特宣布，1.0.0 版本現在可用了，並發布新的博客文章詳細描述了 PyTorch Lightning 的運行原理和新的 API。William Falcon 表示自己非常期待有一天，當用戶查看 GitHub 上的複雜項目時，深度學習代碼不再那麼令人望而生畏。
  • PyTorch 1.0 首個 RC 版本發布,包含大量重要特性
    PyTorch 1.0 首個 RC 版本已發布，這是一個預覽版本，包含 1.0 即將到來的大量重要特性。
  • PyTorch1.7發布，支持CUDA11分布式訓練
    機器之心報導參與：魔王、小舟昨日，PyTorch 團隊發布 PyTorch 1.7 版本。部分新特性，詳情參見 https://github.com/pytorch/pytorch/releases/tag/v1.7.0。
  • Pytorch 0.3.0 發布,實現多方面提速,增加對ONNX支持
    雷鋒網 AI 科技評論按，2017 年初，Facebook 在機器學習和科學計算工具 Torch 的基礎上，針對 Python 語言發布了一個全新的機器學習工具包 PyTorch。一經發布，這款開源工具包就受到廣泛關注和討論，經過幾個月的發展，目前 PyTorch 已經成為從業者最重要的研發工具之一。經過將近一年的發展，日前，迎來了 PyTorch 0.3.0 版本。
  • PyTorch 1.7發布，支持CUDA 11、Windows分布式訓練
    支持英偉達 A100 GPU 和原生 TF32 格式；（原型版）支持 Windows 系統上的分布式訓練。版本開始，PyTorch 特性分為 Stable（穩定版）、Beta（測試版）和 Prototype（原型版）。
  • PyTorch 1.7發布,支持CUDA 11、Windows分布式訓練
    機器之心報導參與：魔王、小舟昨日，PyTorch 團隊發布 PyTorch 1.7 版本。該版本增添了很多新特性，如支持 CUDA 11、Windows 分布式訓練、增加了支持快速傅立葉變換（FFT）的新型 API 等。
  • Pytorch-Transformers 1.0 發布,支持六個預訓練框架,含 27 個預...
    雷鋒網 AI 科技評論按：剛剛，在 Github 上發布了開源 Pytorch-Transformers 1.0，該項目支持 BERT, GPT, GPT-2, Transfo-XL, XLNet, XLM 等，並包含 27 個預訓練模型。我們來看。
  • 新版PyTorch發布!新增TorchScript API,擴展ONNX導出
    銅靈 發自 凹非寺量子位 出品 | 公眾號 QbitAI今天，PyTorch 1.2.0版正式發布。官方表示，和1.1版本相比，新版本在使用體驗上又往前邁進了一大步。總之，1.2.0版本的PyTorch更方便更好用了。一起圍觀下具體更新。四大更新TorchScript編譯器TorchScript編譯器最早是在1.0版本出現的，可以將PyTorch模型轉換為靜態圖表徵，可用於Python不可用的受限環境中的優化和執行。
  • 圖靈獎得主力推:PyTorch 1.3 今天發布
    機器之心報導參與：一鳴、思今天凌晨，PyTorch 開發者大會在舊金山開幕，會上發布了最新版本 PyTorch1.3。本次更新最大的亮點在於對行動裝置的支持、挑戰傳統張量的「命名張量」，以及更好的性能改進。今天，PyTorch1.3 發布了。圖靈獎得主，被譽為「深度學習三座山頭」之一的 LeCun 發推稱讚。
  • 新版PyTorch 1.2 已發布:功能更多、兼容更全、操作更快!
    PyTorch 簡介自 PyTorch 1.0 發布以來，我們的社區不斷在進行擴展、添加入新的工具。（https://pytorch.org/docs/stable/jit.html）而現在，我們很高興地宣布我們已經成功開發了四個新版本，包括 PyTorch 1.2，torchvision 0.4，torchaudio 0.3 和 torchtext 0.4。
  • aelf Enterprise 1.0.0 RC 1 版正式發布
    10月16日，aelf Enterprise 1.0.0 RC 1 版正式發布。aelf Enterprise 1.0.0 RC 1 版是基於aelf Enterprise 1.0.0 Preview 3 版的升級版本，在網絡層節點管理及發現、合約執行計步方案、Configuration合約、合約執行限制管理等方面進行了優化，改進了系統穩定性，提高了用戶體驗。
  • Facebook發布PyTorch 1.1,開源AI模型優化簡化工具BoTorch & Ax
    在此次開發者大會期間，Facebook開源了簡化模型優化的工具——BoTorch和Ax，還發布了Pytorch 1.1。Facebook F8 大會主要面向圍繞該網站開發產品和服務的開發人員及企業家，大會通常包括主題演講以及 Facebook 新產品、新工具的發布。其名稱源自 Facebook 的 8 小時黑客馬拉松競賽。
  • PyTorch 0.4:完全改變API,官方支持Windows
    新智元報導 來源：Pytorch 官網【新智元導讀】今天，PyTorch官方在GitHub發布0.4.0版本，最重要的改進是支持Windows系統。新版本完全改變了API，是本年度最重大的升級。TensorFlow依舊有王者榮耀，但PyTorch虎視眈眈。
  • Mozilla Firefox 38.0.1 正式版發布
    在38版Firefox正式發布後不久，Mozilla Firefox 38.0.1 正式版今日再次更新，這是一個正式版發布後的快速修正版，主要解決了NVIDIA
  • PyTorch 1.6 發布:原生支持自動混合精度訓練並進入穩定階段
    PyTorch 1.6 穩定版已發布，此版本增加了許多新的 API、用於性能改進和性能分析的工具、以及對基於分布式數據並行(Distributed
  • Pytorch-GPU1.7.1 和 TensorFlow-GPU1.14.0 安裝指南(基於windows10)
    搭建時間：2021年2月7日環境套餐：win10 + vs2017 Community +  Pytorch-GPU1.7.1（CUDA11.1 + CuDNN8.0.4） + TensorFlow-GPU1.14.0（CUDA10.0.130 + CuDNN7.6.5）一、基礎知識儲備顯卡：（GPU），主流是NVIDIA的GPU，因為深度學習本身需要大量計算。
  • Pytorch 1.1.0駕到!小升級大變動,易用性更強,支持自定義RNN
    新智元原創 來源：pytorch.org、GitHub編輯：金磊【新智元導讀】盼望已久，Pytorch終於更新了！Pytroch 1.1.0的發布除了修復了已有bug之外，最大的亮點就是可以更快、更好的支持自定義RNN，以及TensorBoard對可視化和模型調試提供了一流的本地支持。
  • 大家心心念念的PyTorch Windows官方支持來了
    五個小時前，PyTorch 官方 GitHub 發布 0.4.0 版本，大家心心念念的 Windows 支持終於來了。GitHub 發布地址：https://github.com/pytorch/pytorch/releasesPyTorch 官網：http://pytorch.org/這一次更新從 0.3.1 到 0.4.0 有著非常多的改進，最重要的就是官方支持 Windows 系統。
  • iOS 11.0.1正式版更新發布
    今天凌晨，蘋果為我們推送了iOS 11.0.1正式版的更新，是的，你沒看錯，是正式版而非測試版，距iOS 11正式版發布僅過去了一周時間