舊照片著色修復神器!自注意力GAN效果驚豔

2021-03-02 新智元

來源:GitHub

編輯:肖琴

【新智元導讀】一個模型可以實現多個圖像修改任務!本文作者結合自注意力GAN、逐漸增大的訓練方式等技術,實現了驚豔的舊照片著色效果。

圖像著色、圖像增強、恢復舊圖像等是計算機視覺領域的熱點問題,不過,用一個模型很好地實現多個任務的研究不多。

近日,GitHub用戶Janson Antic發布了一個名為DeOldify的項目,這是一個給舊照片著色和修復的神器。

地址:https://github.com/jantic/DeOldify

讓我們先看看效果:

Maria Anderson as the Fairy Fleur de farine and Lyubov Rabtsova as her page in the ballet 「Sleeping Beauty」 at the Imperial Theater, St. Petersburg, Russia, 1890. 

Woman relaxing in her livingroom (1920, Sweden) 

Medical Students pose with a cadaver around 1890 

Surfer in Hawaii, 1890 

Whirling Horse, 1898 

Interior of Miller and Shoemaker Soda Fountain, 1899 

Paris in the 1880s 

Edinburgh from the sky in the 1920s 

(更多結果圖像請點擊文末連結查看)

這是一個基於深度學習的模型。具體來說,我結合了以下方法:

這個模型的驚豔之處在於,它對各種各樣的圖像修改都很有用,而且應該能做得很好。上面舉例的是著色模型的結果,但這只是pipeline的一個部分,用同樣的模型可以開發更多任務。

我用這個模型開發的下一個任務是修復舊圖像,使它們看起來更好,所以我的下一個項目是「defade」模型。我已經做了最初的努力,在我寫這篇文章時已經處於模型訓練的早期階段。基本上,它只是訓練相同的模型來重建圖像,使用誇張的對比度/亮度調整來增強圖像,作為褪色照片和使用舊/壞設備拍攝的照片的模擬。我已經看到了一些有希望的結果:

以上就是這個項目的要點——我希望用GAN讓老照片看起來更好,更重要的是,讓項目有用。

這個項目是用Fast.AI library建的。不幸的是,用的是舊版本,我還沒有升級到新版本。 因此,先決條件是:

舊版本的Fast.AI library:https://github.com/jantic/fastai

Fast.AI已有的dependencies:已有方便的requirements.txt和environment.yml

Pytorch 0.4.1(需要spectral_norm,因此需要最新的穩定版本)。

Jupyter Lab

Tensorboard(即安裝Tensorflow)和TensorboardX(https://github.com/lanpa/tensorboardX)。 需要注意的是,默認情況下, progress images將每200次迭代寫入Tensorboard,因此可以持續方便地查看模型正在執行的操作。

BEEFY顯卡。我的是GeForce 1080TI(11GB),真希望有比11 GB更大的內存。Unet和Critic都非常大,但越大效果越好。

對於想要立即開始轉換自己的圖像的人:.好吧,你需要等我先上傳預先訓練好的權重。 一旦可用,就可以在可視化筆記本中引用它們。我將使用ColorizationVisualization.ipynb。你只需要用我上傳的生成器(colorizer)的權重文件替換colorizer_path = IMAGENET.parent /('bwc_rc_gen_192.h5')

假設你在內存足夠大的GPU(例如11 GB GeForce 1080Ti)上運行這個程序,我將保持大小約為500px。如果內存小於11GB,你可以將圖像縮小,或嘗試在CPU上運行。

項目地址:

https://github.com/jantic/DeOldify

【加入社群】

新智元 AI 技術 + 產業社群招募中,歡迎對 AI 技術 + 產業落地感興趣的同學,加小助手微信號:aiera2015_3  入群;通過審核後我們將邀請進群,加入社群後務必修改群備註(姓名 - 公司 - 職位;專業群審核較嚴,敬請諒解)。

相關焦點

  • 黑白照片修復亦可「如假包換」,華人學者提出實例感知著色新方法
    機器之心選自arXiv作者:Jheng-Wei Su等機器之心編譯參與:Racoon、蛋醬、小舟為黑白照片上色不難,但難在如何實現「以假亂真」。在這篇 CVPR 2020 論文中,研究者提出了一種全新的圖像著色方法,通過檢測出灰度圖像中的不同目標,再對圖像進行著色,使預測出的彩色圖片更加接近真實色彩。給黑白圖像自動上色一直是個很有趣的話題,這方面的技術可廣泛應用於舊照片和舊視頻的修復,使百年舊照重新煥發生機。我們也會經常看到一些黑白照片修復成品,即使是上個世紀早期的舊照片,經過著色以後效果也十分驚豔。
  • 照片修復神器安卓版
    所以張老師今天為大家帶來一款照片修復神器APP,這款軟體從名稱就可以看出,專門為老照片的還原而打造,將那些舊照片進行完美還原,帶我們回到那個年代裡的黃金歲月。      這款軟體基於領先的AI圖像生成技術打造,能夠增強老照片的像素,同時還原那些已經模糊的細節,讓我們的回憶瞬間帶回到按下快門的那一刻。
  • 不用GAN,照片生成簡筆畫,效果驚豔
    《老友記》多人照片轉換效果:https://github.com/vijishmadhavan/ArtLineColab 地址:https://colab.research.google.com/github/vijishmadhavan/Light-Up/blob/master/ArtLine(Try_it_on_Colab).ipynb技術細節效果驚豔的
  • AI修復舊照片,了解一下?
    ——「美人就是美人……」——「這是什麼天仙顏值啊……」——「這美貌,吊打網上一票錐子網紅臉……」近日,微博上有網友發起出#AI修復XXX#的話題,一大批網友在微博上po出被AI技術修復的明星舊照片,話題尤為熱烈的是#AI修復王祖賢#和#AI修復林青霞#,在短短幾天時間內閱讀量過億,網上隨即出現了一大批AI修復明星舊照的風潮。
  • 舊照片怎麼翻新,你想不到的照片修復過程!
    就有些人想當然的認為,老照片修復也是使用軟體自動完成,卻不知老照片修復都是使用軟體模擬手工一點一點畫出來的。舊照片翻新效果大家看到的都是這樣的舊照片翻新效果圖對比,卻沒有人會展示過程圖,所以大部分人都不知道舊照片是怎麼翻新的。今天用幾張修復過程圖,帶你了解破損嚴重的舊照片是怎麼修復的。
  • MIT、港中文團隊暴力解剖GAN,一筆成畫不是夢
    最近,朱俊彥等人在論文中提出了一款神器——GANpaint,竟然簡單幾筆就能成畫。這個神來之「工具」的驚豔效果,引來不少人的驚嘆。有了這款神器,畫畫不能再簡單了!自從GAN誕生以來,一次一次創造著奇蹟:填充紋理、變臉易容。但這一次,這款名叫GANpaint的神器,簡單幾筆就能成畫。
  • 暴力解剖GAN!MIT、港中文團隊GANpaint,一筆成畫不是夢
    新智元報導 來源:MIT編輯:元子【新智元導讀】MIT開發的GANpaint工具可以輕鬆修圖,允許用戶上傳任何照片進行編輯,而不會破壞其原始細節。除了幫助藝術家和設計師快速調整視覺效果外,研究人員表示,這項工作可能有助於計算機科學家識別「虛假」圖像。
  • 還原時代原聲,AI修復老北京再次火爆全網!民俗樂隊,街邊地攤、剃頭...
    另外,這段影像修復視頻依然出自B站Up主大谷之手,此前他曾用AI修復過1920-1927年的一段老北京影像,在B站爆火,視頻點擊量超過了200萬,還受到了央視新聞的報導。不過,從影像的修復效果過來看,顯然這次在去噪和著色方面處理的更好,而且還是自帶原聲的影像資料。這次的修復作品是與央視新聞聯合發布的,視頻上傳不到30min,在B站就收穫了30多萬的播放量,彈幕更是爆屏。
  • AI修復大小S二十年前青春照片,驚豔網友!
    5月11日,有娛樂博主在微博上曬出大小S少女時代的照片。與人們印象中的「渣渣畫質」不同,照片的畫質相當清晰,將兩人的姣好面容一展無餘。「面容清秀,皮膚白嫩水潤,真是美少女啦」「也太好看了吧」「女神比心心」……照片一出,分分鐘迷倒了大批微博網友。拍攝於20年前的老照片,為啥能神還原姐妹倆的美貌?AI修復功不可沒。
  • AI修復明星舊照,真的好絕啊!
    最近,突然颳起了一陣 ai修復老照片 的風~童年的那些模糊舊照,經過高級的ai技術,都可以進行高清修復,還原五官! 到底有多神奇呢?拿鐵血漢子戰狼吳京來舉個例子,原先的童年照片已經渣到看不清五官輪廓,但是經過修復後的他,頓時變得超級水靈!
  • 一鍵修復明星舊照屢上熱搜,背後的AI技術火了!
    前段時間一大批網友在微博上拋出被AI技術修復的明星舊照片短短幾天時間內有關「AI技術修復」的話題閱讀量就已過億網上也隨即出現了一大批AI修復明星舊照的風潮網友們言語之間全是對「AI修復技術」的讚美:「太強大了,這波操作讓人服氣;感謝科技讓我們看到高清的仙女。」
  • 破損照片,高精度修復過程
    這一節,介紹破損老照片做高精度和高相似度的修復。在老照片修復中,很多人認為如果照片破損不是特別嚴重,那麼修復也很簡單,事實真是這樣嗎?我們看下面這張照片,左為原照片,右邊為修復完成的效果。很多人第一感覺就是,原照片破損不嚴重,沒什麼難度,花幾個小時的事。其實,這張照片修復時間超過30小時,是不是不可思議,是不是不相信。
  • 這個AI「大師級」簡筆畫水平,驚豔到了網友:竟然不用GAN
    是不是和原圖很逼近了?來看「黴黴」(Taylor Swift)照片的效果。 也正因如此,ArtLine的效果真真兒的驚豔到了網友。 那麼,它是如何做到的呢?
  • 破損照片修復技術
    一、修復原理破損照片修復即是利用傳統的美術製作以及攝影技術或者是運用計算機圖形圖像技術將破損的相片在儘量保持原有格調的基礎進行修復。破損照片修復在照片本身的破壞程度不是很大,或者可以用移植的辦法補全,保持原照片的質感。這樣就可以儘量不作大的修改。更加具體想效果進行分析然後進行修復。
  • 看AI人工智慧為好萊塢黃金時代的30位名人照片著色
    彩色攝影使照片栩栩如生,並揭示每一個生動的細節,從而創造出引人注目的圖像。數字藝術家花費了數小時試圖以逼真的色彩重現舊的黑白照片,並獲得令人印象深刻的結果,這項複雜而耗時的工作不僅需要出色的編輯技能,而且還需要大量的知識和對歷史背景的研究才能使圖像儘可能準確地著色。隨著人工智慧和機器學習的飛速發展,這項細緻的工作是否可以由人工智慧來完成。時間可以證明一切,未來似乎就在眼前。
  • CVPR 2020丨圖像超清化+老照片修復技術,拯救你所有的模糊、破損照片
    而無論是塵封多年的泛黃老照片、舊手機拍攝的低清晰度照片,還是你不慎手抖拍糊的照片,微軟亞洲研究院在計算機視覺頂會 CVPR 2020 發表的兩項黑科技,都能讓它們重現光彩。第一項技術是圖像超解析度技術,即從低解析度圖像中恢復出自然、清晰的高解析度圖像。與先前盲猜圖片細節的方法不同,我們引入一張高解析度參考圖像來指引整個超解析度過程。
  • 黑白照片上色的小程序讓你的黑白照片秒變彩色!
    相對於攝影愛好者而言,把彩色照片變為黑白照片,套入濾鏡簡直一秒鐘的小事兒。但是相反,要想給黑白照片上色,就算是在大神眼中,也不是一件容易的事。近期《指環王》導演彼得·傑克遜就來了一把「騷操作」,由他執導的紀錄片《他們不會老去》把100多年前的一戰檔案全都再次上色,讓所有的人都再次活了過來,像昨日拍出的一般鮮活兒。
  • 渲染教程:製作3DMax景深效果「著色渲染」
    著色,百萬設計師的首選雲渲染平臺。景深是一個很酷的效果,他可以讓你的視覺焦點集中在關鍵點上,通過模糊背景的方式,營造出空間感、氛圍感。使用3DMax製作景深效果,有三個關鍵因素,如下所示。我將分享景深近程和遠程教程,希望你能有所收穫!
  • 瞬間修復老舊照片!!!
    為了不讓心底的溫暖消逝,也為了能把歷史的真容留住,各種圖像修復工具層出不窮。我們看到了百年前的北京,看到了民國時的摩登女郎,還有被重新修復的母親的老照片。最近,幾個中國小夥組成的微軟研究團隊開發了一種全新的修復舊照片的工具,目前已在 GitHub 上開源。
  • 難怪王祖賢被贊最美女神,當AI修復舊照,毛孔皮膚都美得過分
    拍過的影片、照片雖然都被記錄了下來,不過都不是最佳像素。如今王祖賢的舊照被AI修復了以後,總感覺說她是最美女神都不為過。唇紅齒白,皮膚白皙,以前王祖賢的舊照都是有點模糊的,被AI修復了以後,連毛孔和皮膚都被放大,清晰可見,真的是美得有些過分了