2021年12月1日,高通正式釋出了全新一代驍龍8移動平臺。在新的命名規則下,Kryo CPU、Adreno GPU、Spectra ISP以及Hexagon處理器都捨棄掉了之前處理器代號+數字的命名方式。這次改名,既可以說是高通對於驍龍晶片各個部件的一次全方面的梳理,也是一次揮別過去的大幅度升級。
過去很長一段時間裡,驍龍8系的ISP處理器都是14-bit雙ISP,2020年推出的驍龍888則發展到14-bit三ISP,支援三個攝像頭同時進行拍攝。
驍龍8的Spectra ISP的位寬從14-bit ISP升級為18-bit三ISP,可以處理的影像資料量提升了恐怖的4096倍,同時新增了獨立的第四顆低功耗ISP隱藏在感測中樞負責面部識別。而由新一代Adreno GPU、Hexagon處理器、Kryo CPU和第3代高通感測器中樞構成的第7代高通AI引擎,推理速度比前代快了4倍。
這一切的提升,使用者能體感到的最直觀的表現之一,就是未來搭載驍龍8晶片的手機,攝影能力將會得到一次質變的提升。
定義專業級影像系統
18bit ISP對於大部分人來說都是一個很少接觸到的指標。一方面是因為過去很長一段時間裡手機SoC的ISP都是保持在14bit ISP沒有變化,另一方面也是因為對於手機來說14bit ISP 似乎日常使用已經夠用,大家也就沒有提升ISP位寬的期待。而這次高通推出的18bit ISP,可以說是為專業攝影以及8K影片而生,相信在未來很長一段時間內,18bit都將作為手機的標準配置出現。
所謂18bit ISP,可以簡單的理解為擁有更高處理精度的ISP處理器,能負載的資料量更多。在14bit ISP 的時候,三原色每種顏色都會有2^14種變化,可以組合出(2^14)^3種色彩,而18bit 的ISP的資料量則是(2^18)^3,實現了4096倍的資料量暴增。
而精度提升最直接的感受就是色彩更加豐富,各個顏色之間的過渡更加的平滑。在從8bit色彩空間進入到10bit色彩空間的時候,便經歷過一次從1600萬色到10億色彩的進化。14bit的ISP也是為10bit色彩空間所量身打造。
目前Camera Sensor普遍輸出的也是10bit bayer RAW資料。10bit bayer RAW資料在進入到ISP後,會被處理成14bit的資料進行運算以及後續模組處理,得以實現更高的計算精度,從而提升影象質量。
而18bit ISP 的使用,能為更高的bit的資料提供空間。目前常用的HDR 10和HDR 10+的標準色深為10bit,而Dolby Vision在標準要求中至少支援12bit的色彩深度。18bit的ISP可以說讓手機拍攝Dolby Vision的影片成為了可能。安卓手機在未來也將能成為專業攝影裝置中的一員。
與位寬的提升相匹配的是更寬的資料通路,也就是一次能並行傳輸的資料更多,使得更高曝光的範圍內融合多幅影象能力得到增強。例如可透過10bit Sensor在暗光區域進行長曝光,在明亮區域進行短曝光和長曝光,最終合成一副18bit HDR的高品質影象。同時18-bit ISP將額外增加4個位元動態範圍,使得影象最暗和最亮的部分看到更多細節。
手機拍照與相機拍照最大的不同,就是手機按一次拍照按鈕,並非只拍了一張照片,而是同時記錄了不同曝光條件下的多張照片,最終透過演算法合成為一張照片來提高單張照片的質量。所謂的夜景模式,也是透過這種方式實現。
過去,高通的低光多幀引擎能夠拍攝六張畫面合成為一張畫面明亮無噪點的照片。而這次18-bit ISP將多幀引擎升級為“超級多幀引擎”,能夠捕獲30張畫面進行合成。未來安卓手機的夜景模式也會得到巨幅的提升。
同時,超低光環境的適應性增強後,更能夠自如的拍攝暗光環境下有運動物體的場景。Spectra ISP可以透過超級多幀引擎獲取的30張畫面追蹤運動物體計算其運動軌跡,以實現清晰的畫面
值得一提的是,18bit ISP也將支援18-bit RAW檔案的匯出,後期調色空間將更加豐富,種種改善都在預示著,高通正在將手機影像系統朝著專業級別的方向打造。
除了拍照能力的增強外,18bit ISP也讓影片拍攝能力得到大幅度的提升。
之前14bit ISP已經能夠實現每秒捕捉27億畫素能力,而18bit ISP可做到每秒捕捉32億畫素,速度同比提升19%。每幀8K影片的畫素數量約為3300萬,而每秒32億畫素意味著單顆攝像頭可以支援30fps捕獲1.08億畫素的畫面,或是支援三顆攝像頭每顆分別以30FPS捕獲3600萬畫素的畫面。
新的Spectra ISP在實際上已經可以處理高於8K的資料流。
這些多出來的資料並非是浪費掉的效能。在進行8K影片拍攝的時候,如果畫面出現抖動,這些“多餘”出來的畫面資料,將被裁剪掉,來保證8K影片本身畫面的穩定。18-bit ISP的超大頻寬支援用同一影象感測器同時拍攝每幀3300萬畫素的8K影片和拍攝6400萬畫素的照片。這樣,當用戶拍攝精彩瞬間時,不必在8K高畫質影片和6400萬畫素高畫質照片之間進行選擇。
為了使Sensor和ISP能夠更好的協調合作達到專業級標準,高通與作為全球主要的手機Sensor製造商之一的索尼成立了聯合實驗室。除了更加完善驍龍8平臺的影像技術之外,還有兩個非常值得期待的動作:打造聯合原型產品、開發針對驍龍平臺最佳化的Sensor。
在與高通深度合作的前提下,本就以頂級拍照體驗為賣點的索尼Xperia系列手機或將向著更專業的級別靠近,而非只是 “微單”的水平。
用AI“超越”單反相機
對於ISP來說,要做的事情有很多。從Sensor接收到的資料後,ISP要完成鏡頭矯正、壞畫素矯正、顏色插值、Bayer 噪聲去除、 白平衡矯正、 色彩矯正等等一系列步驟,這是大部分相機ISP的固定流程。
而對於採用高通晶片的手機來說,不僅ISP要對影像資料進行處理,AI引擎也在其中發揮著不可忽視的重要作用,每一次人臉檢測、相機拍照、攝影,都幾乎調動了整個SoC。
高通的AI引擎由Adreno GPU、Hexagon處理器、Kryo CPU和感測器中樞共同構成,定義為一整套處理器協作系統,並非某一個單獨的晶片來完成AI的工作。Hexagon張量運算處理器作為重要組成部分,它的效能在這次得到了巨幅的增強,配合共享記憶體的提升,讓第7代的AI引擎實現400%的同比提升。
Coms作為模擬訊號裝置,很難採用更高精細度的工藝。我們常說“底大一級壓死人”,現在一些1英寸(12.8 x 9.6 mm)的“大底”似乎讓手機能接近相機,畢竟像是索尼黑卡或是尼康G9X這樣的卡片機也是1英寸的Coms。但能稱之為“專業”的相機,至少也是APS-C畫幅起步,Coms的面積是1英寸的4倍,更別說專業相機標配的全畫幅(36 x 24 mm)Coms了。
攝影是光的藝術。除了Coms的尺寸之外,鏡頭也是限制手機成像的重要因素。而AI的加入,正是手機與相機最大的區別,也是手機能在最終成像效果上接近或超越相機的唯一出路。
隨著新18bit ISP的推出,高通也重構了攝影演算法,讓AI成為了手機攝影的底座。
新的驍龍8利用AI實現了實時人臉識別,讓人臉識別變得更加精準。更精確的人臉識別,也驅動了曝光、對焦和白平衡的準確,因此在更復雜的照明條件下,使用者都能更準確地對焦,獲得更好的對比度和更準確的膚色。
為了讓面部細節更加豐富,新Spectra ISP的人臉特徵引擎可檢測到300個特徵點,同時利用神經網路對眉毛、嘴唇、下頜線等更多的人臉特徵進行訓練,讓手機鏡頭能理解使用者的情緒,產生更多玩法。
目前被廣泛使用的超廣角其實是實現精準人臉識別的一個阻礙,因為透過超廣角鏡頭拍攝人像時,發生的畸變會導致人臉變小。新Spectra ISP在之前超廣角矯正畸變的基礎上,加入了色差矯正的功能。色差是鏡頭邊角處顏色的畸變。它會給拍攝物件一個虛假的色彩輪廓,並破壞銳度和邊緣細節。
而AI加入後對超廣角的最佳化,也產生了很多有意思的新功能。高通的研發團隊開發了一套新的攝像頭解決方案,能夠拍攝類似全景影象的畫面,即拍攝一次無需等待照片拼接便可獲得無畸變且達到極寬的140度視場的照片,而超廣角鏡頭普遍只有120度左右的視場。避免了此前拍攝全景照片時手持攝像頭進行橫向移動並且等待應用程式拼接影象,一不留神還會造成圖片出現斷層的尷尬場面。
對於人臉識別,這次高通拿出來了一個新的解決方案,也就是第四顆ISP晶片。特殊的是,這顆ISP晶片在架構中並未與其他三顆ISP處於同一模組中,而是隱藏於感測中樞,作為獨立的ISP存在。這顆ISP是一顆低功耗智慧感知ISP,將處於始終開啟的狀態,以做到當手機在身邊時,不間斷的為我們提供服務,而當感知到我們離開手機的時候,才進行鎖屏保護隱私安全。
目前的智慧手機在解鎖後會停止面部搜尋。但有了低功耗智慧感知攝像頭,可以一直進行面部搜尋。這樣,當用戶不在手機前時,它就會自動鎖定。在高通的設計中,這顆晶片之所以獨立存在,也是為了保證足夠的安全性。
其可應用的場景還有很多,比如在有人越過使用者的肩膀看螢幕,那螢幕就會顯示黑屏;有時使用者只想分享螢幕當前顯示的內容,如果有其他人和使用者一起看顯示屏時,低功耗智慧感知攝像頭可以使你的手機隱藏通知和其他彈出視窗等等。
這顆新的ISP或許效能沒有此前的三顆ISP強大,但是提供了低功耗智慧感知和保護個人隱私安全的思路。
在影片拍攝方面,Spectra還支援升級的計算HDR影片拍攝。全新三星單幀逐行HDR影象感測器和索尼數字重疊感測器與Qualcomm Spectra協同工作,支援計算HDR的影片拍攝。影片中的每幀畫面都是雙重曝光的組合。Spectra 8的18-bit三ISP比以往更快,現能處理每幀三重曝光,因此計算HDR影片拍攝可支援更大的動態範圍。
得益於18bit ISP的特性,可實現同時處理兩個單幀逐行或數字重疊的HDR感測器。因此,現在可以在Sensor之間平穩過渡。
這次Spectra ISP加入了實現影片背景虛化的專用引擎,可實時生成背景虛化。
AI其實很早就已經融入進了手機攝影當中,高通只是在之前的基礎上利用AI讓手機攝影更接近了專業相機一步。AI的加入,讓一部手機可以擁有相機都難以實現的效果。比如高通和徠卡的合作,實現了徠卡Leitz風格;或是與Hugging Face合作實現基於情感分析的通知整理等等。相機鏡頭,只是捕捉現實色彩的一個工具,而手機攝像頭加上AI,則是成為了人類身體外延之外、獲取世界資訊的眼睛。
這次驍龍8平臺在影像方面的提升可以說是讓安卓手機攝影開始邁向專業級別的一個起點,加之對於OEM廠商定製化的支援,可以想象在2022年推出的一系列安卓陣營的手機將以專業攝影為主打,為使用者帶來更優質的攝影體驗。