遮擋反光下拍照無壓力—臺大提出新型遮擋去除模型還你清晰視界
在拍照時不期而遇的遮擋會讓照片的效果大打折扣，從窗戶玻璃的反光到雨滴的遮擋都在影響著清晰的成像，而去除這些惱人的遮擋也是計算機視覺領域的重要研究內(nèi)容。
最近來自臺大、谷歌等機構的研究人員提出了一種基于前景背景運動差異的學習方法，通過深度學習交替光流場估計和圖像重建實現(xiàn)了高質(zhì)量的遮擋去除和前景、背景的重建，同時還利用在線優(yōu)化的方法提高了對于多種真實場景的適應能力。
從反射遮擋中獲取清晰的圖像
從反光的玻璃或遮擋的前景中獲取清晰的圖像一直是計算機視覺領域的研究熱點之一，從反光或者遮擋物體的混合圖像中獲取清晰的圖像將有助于提升包括機器人感知、安防監(jiān)控等多種視覺應用等性能。
目前解決這一問題的方法主要集中于單張圖像去除和多幀去除兩個角度�；趩螏姆椒ǔ浞掷冒▓D像先驗和離焦線索的方法來對遮擋部分進行識別和重建。雖然取得了優(yōu)異的結果，但是從遮擋／反射混合的圖像中分離出清晰的背景和前景卻在根本上是一個病態(tài)問題，通常需要對場景有著更高級別的語義理解。實際使用中當面臨分布外圖像時，基于學習的算法會發(fā)生嚴重的退化。
為了解決這些問題，研究人員開始利用多幀圖像來處理遮擋反射問題。對于相機來說，拍照時背景和遮擋物具有不同的深度，通過小幅度運動拍攝的多幀照片將有利于分離出兩層結構間的不同運動。已經(jīng)有很多工作充分利用運動線索來對前景遮擋進行去除，但對于對于多幀視頻處理需要消耗大量的計算資源，同時也需要滿足嚴格的光照連續(xù)性假設和精確的運動估計結果。雖然研究人員開始利用無模型的3DCNN來解決這些問題，但卻無法在真實輸入序列中獲得與優(yōu)化方法可比擬的效果。
為了實現(xiàn)更為迅速、高效、高精度的遮擋去除和重建結果，在這一工作中研究人員提出了一種結合深度學習與優(yōu)化方法多幀的遮擋去除方案。在優(yōu)化思路的啟發(fā)下，本文由粗到精地交替估計稠密運動和重建前景／背景圖像。對于稠密運動的顯式建模使得算法可以漸進地重建出前景和背景層。
本文的方法沒有構建手工的目標函數(shù)來構建圖像，而是采用了基于學習的方法來融合流反射變換圖像來適應不滿足光照連續(xù)性和光流估計誤差。在通過合成數(shù)據(jù)集對模型進行訓練后，為了提高針對真實序列的生成質(zhì)量，研究人員還增加了在線優(yōu)化過程來對結果進行提升。
下圖顯示了算法的整體流程，這一漸進式的模型通過由粗到精的過程，經(jīng)過L層的處理不斷提升生成結果的質(zhì)量。
分享
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
推薦專題
- 1 UALink規(guī)范發(fā)布：挑戰(zhàn)英偉達AI統(tǒng)治的開始
- 2 北電數(shù)智主辦酒仙橋論壇，探索AI產(chǎn)業(yè)發(fā)展新路徑
- 3 降薪、加班、裁員三重暴擊，“AI四小龍”已折戟兩家
- 4 “AI寒武紀”爆發(fā)至今，五類新物種登上歷史舞臺
- 5 國產(chǎn)智駕迎戰(zhàn)特斯拉FSD，AI含量差幾何？
- 6 光計算迎來商業(yè)化突破，但落地仍需時間
- 7 東陽光：2024年扭虧、一季度凈利大增，液冷疊加具身智能打開成長空間
- 8 地平線自動駕駛方案解讀
- 9 封殺AI“照騙”，“淘寶們”終于不忍了？
- 10 優(yōu)必選：營收大增主靠小件，虧損繼續(xù)又逢關稅，能否乘機器人東風翻身？
