如果說圖像傳感器是智能駕駛汽車的“眼睛”,那圖像傳感器動態范圍作為汽車成像中的一個關鍵指標,就代表瞭這隻“眼睛”能看到的細節、層次與特征多少,對行駛過程中的環境路況判斷有很大影響。什麼是動態范圍?維基百科定義,動態范圍(Dynamic Range)是可變化信號(例如聲音或光)最大值和最小值的比值。
實際上,動態范圍是一個通用的概念,不同的信號或者變量S都可以定義自己的動態范圍,不僅圖像傳感器有動態范圍,顯示器,投影機,打印機等等都有自己的動態范圍,甚至我們可以定義一個人的動態范圍,如果這個人條件艱苦時能吃苦,條件優渥時會享受,既能將就也會講究,這就是個高動態范圍的狠人。針對一幀圖像而言,S的最小值為1,最大值受限於數據帶寬,即數據能夠存儲的最大值。一張8位的灰度圖,最大值255,此時理論上的動態范圍就是48dB,10位圖像動態范圍可到60dB,20位圖像動態范圍120dB。
場景的動態范圍和圖像的動態范圍,大多數情況是不一致的。場景的信號S不是圖像的灰度值,它是場景發射光線的亮度。可以理解為S最大值是場景中最亮部分的亮度,S的最小值是場景中最黑部分的亮度。它與圖像動態范圍相關但不相等。同時圖像的後處理通常會把線性數據壓縮為非線性輸出,這也會放大圖像數值和場景動態范圍的差異。
c569301d065e4cf80f2196fe793eeb5f圖1 寬動態典型場景
如果把場景的亮度作為橫坐標,圖像傳感器輸出的數據作為縱坐標,我們就得到圖2所示的傳感器輸出和場景的動態范圍映射關系。圖像傳感器把一定亮度范圍的場景采集並映射為自己的輸出,如圖中紅框所示。
5b98f6a395039bf377450ce94e67dfc9圖2 場景到傳感器的動態范圍映射
圖像傳感器實際動態范圍通常比場景的動態范圍低,傳感器的能力隻能采集紅框對應橫坐標內場景的亮度范圍。紅框的位置需要動態調整移動,以適應場景亮度的變化,這是成像算法中自動曝光(auto exposure)模塊的任務。
對汽車高動態范圍的場景,會有同一場景中極亮和極暗部分同時出現的情況,例如夜間街道,既有車大燈也有街道的暗角,此時移動紅框已經無法同時看清楚兩個部分,必須把紅框做大,這就是汽車上用到的高動態范圍圖像傳感器。
從原理上講,紅框尺寸受限於傳感器的像素勢阱容量,受限於尺寸,很難簡單做大,車用圖像傳感器的高動態范圍技術是行業面臨的共同挑戰。過去二十年來,車載圖像傳感器的高動態范圍大致有如下四大技術流派。
動態改變像素的靈敏度擴充動態范圍
第一個是動態改變像素的靈敏度擴充動態范圍。如圖3所示,圖像傳感器對場景亮度的映射變成非線性,隨著環境亮度增加,像素靈敏度逐漸下降,靈敏度從亮度的線性函數變成分段函數。如下圖所示,電荷積累分成三段,亮度低時靈敏度高,對應黑色電荷,然後亮度中等靈敏度也中等,對應藍色電荷,最後亮度最高靈敏度最低。從坐標圖中可以看到,此時像素的勢阱容量即縱坐標不增加,但映射的場景亮度范圍即橫坐標可以明顯加大,實現瞭增大動態范圍的目標。
安森美(onsemi)的車用圖像傳感器產品線早期推出過30萬像素的可變靈敏度傳感器,就是基於此類技術,這個技術的最大挑戰在於它改變瞭像素的靈敏度特性,讓線性特性的靈敏度變成非線性,而這個折線的形狀對電壓、溫度和曝光時長敏感,一致性差,動態范圍擴展能力有限,隻能勉強用於大尺寸像素黑白圖像的傳感器。目前這類技術已經逐漸被市場淘汰。
b9049a36c7ecfe376f8afb9077b3f8e2圖3 非線性化擴充動態范圍
時分多次曝光
第二個高動態范圍技術是時分多次曝光,這個是目前主流車用圖像傳感器所采用的技術。做法就是圖像傳感器改變曝光時間連續多次曝光得到多幀圖像,然後從中選擇合適像素合並成一幀圖像。如圖4示意,傳感器改變曝光時間,相當於自帶自動曝光功能,對場景不同亮度分別采樣,得到多個紅框,然後把動態范圍拼接起來。這個技術的優點在於:像素勢阱容量不用額外做大,隻需把數據帶寬做大;每個曝光的時長控制可以很精確,最終擬合的圖像亮度線性特性好;動態范圍擴展容易,僅用時分技術就能做到140dB的動態范圍。
時分多次曝光技術有一個難以克服的問題,由於傳感器的連續曝光時間上是依次滯後的,當場景中有快速移動物體或光照劇烈變化例如LED頻閃情況下,多幀圖像擬合後會出現運動物體偽影和色彩噪聲。ADAS算法需要針對性地訓練這類噪聲。
圖4 多幀合並擴充動態范圍
空分多次曝光
空分多次曝光,業內也有稱之為大小像素技術。本質來說與時分多次曝光類似,由多幀融合,區別在於圖4中的多個紅框來源於空間尺寸上不同的兩種像素,兩種像素的圖像擬合成為一張圖像。由於兩種像素在曝光時間上是對齊的,可以避免瞭運動重影的問題,同時改善LED燈頻閃現象。
不過有得就有失:空分曝光,意味著像素數量翻倍, 例如1百萬像素傳感器實際上是1百萬大像素加1百萬小像素,增加瞭功耗和設計復雜度;小像素擠占瞭大像素的面積,降低瞭大像素的低照性能;大小像素的靈敏度差異大,線性特性差,小像素在光學上無法和大像素兼容,需要大量的光學標定工作以補償小像素的問題。這些都是用戶在產品應用開發中需要解決的工程挑戰,此外,大小像素圖像傳感器受小像素尺寸限制,隨著技術演進會逐漸變成瓶頸,所以安森美在2009年就發明並申請瞭大小像素技術的專利,但並沒有推出相應的傳感器產品。
直接擴展像素的勢阱容量
第四個高動態范圍技術就是直接擴展像素的勢阱容量。傳統圖像傳感器像素的感光二極管在感光的同時兼具電荷存儲的功能,因此像素的電荷勢阱容量受限於感光二極管尺寸。隨著像素尺寸越來越小,像素的容量也逐漸變小。安森美的超級曝光像素技術突破瞭這一限制,並在業內率先量產瞭基於這一技術的產品。技術路徑就是為感光二極管外掛瞭存儲電容,當容量飽和時,多餘的電荷會被轉移到電容中存儲起來。這裡的電容不參與光學感光,但擴充瞭像素的勢阱容量。如圖5示意,上面的小桶相當於感光二極管,下面的大桶相當於存儲電容。大桶不直接接水,隻存儲小桶溢出的水。
圖5 感知和存儲分離
超級曝光像素把電荷存儲功能從感光二極管剝離出來,跳出瞭固有限制,實現瞭像素動態范圍和感光二極管的解耦。這一技術具有良好的線性特性,保留瞭單一像素架構,無需復雜的光學標定,並解決瞭時分導致的偽影和LED頻閃的問題。與感光二極管的解耦,看似簡單的一步,卻打開瞭未來更小像素,更大動態范圍產品的設計想象空間。
為瞭支持足夠高的動態范圍,業內產品通常會復用上述三種技術。一張高動態范圍的圖像,可能是時分多次曝光幀、大小像素幀和超級曝光幀的復合擬合結果。這有點像汽車動力中的插混方案,動力可能來自自排發動機,渦輪增壓,以及電機直驅的並聯。這裡多幀擬合的線性特性很像汽車駕駛動力變化的線性特性,保證輸出的平順與線性是高動態范圍圖像的巨大挑戰。一般來說,技術種類越少,線性特性越好。
小結一下,CMOS圖像傳感器的動態范圍是汽車應用中重要的參數指標,它是目前業內共同面臨的技術挑戰,本文介紹瞭幾種傳統動態范圍擴展技術的特點,以及新出現的超級曝光像素技術,它的出現打破瞭既有技術的窠臼,我們預期會在市面上看到更多相關的優秀產品湧現。