sponsored links

量子卷積網路中的「貧瘠高原」現象被解決,克服了量子AI一大難題

機器之心報道

編輯:小舟

許多人質疑量子資料能否變得高度可用,來自洛斯阿拉莫斯國家實驗室(LANL)和倫敦大學的一項研究證明量子卷積神經網路(QCNN)具備巨大的潛力。

隨著量子計算機的出現給計算機領域帶來了許多突破性進展。在量子計算機上執行的卷積神經網路也因其比經典計算機更好地分析量子資料的潛力而引起諸多關注。量子神經網路(QNN)被認為是最有前途的架構之一,其應用包括物理模擬、最佳化等。

儘管 QNN 具有巨大的潛力,但許多 QNN 架構已被證明會出現「貧瘠高原」現象,其中代價函式的梯度隨系統大小呈指數級消失,使得 QNN 架構無法針對大型問題進行訓練。

近日,來自美國洛斯阿拉莫斯國家實驗室(LANL)和倫敦大學的研究人員構建了一個不存在貧瘠高原的特定 QNN 架構。該研究的論文《Absence of Barren Plateaus in Quantum Convolutional Neural Networks》在《PHYSICAL REVIEW X》上發表。

量子卷積網路中的「貧瘠高原」現象被解決,克服了量子AI一大難題

論文地址:https://journals.aps.org/prx/pdf/10.1103/PhysRevX.11.041011

近來一些研究者提出了量子卷積神經網路(QCNN)架構,洛斯阿拉莫斯國家實驗室(LANL)和倫敦大學的這項研究嚴格分析了 QCNN 架構中引數的梯度縮放。該研究發現梯度的方差消失的速度並沒有比多項式更快,這意味著 QCNN 沒有出現貧瘠高原現象。該結果為隨機初始化的 QCNN 的可訓練性提供了分析保證,這突出了 QCNN 與許多其他 QNN 架構的不同,即在隨機初始化下可訓練。

避免梯度消失問題

該研究為了得出其分析結果,提出了一種基於圖的新方法來分析 Haar 分散式 unitary 的期望值,這可能是一種極為有效的方法。最後,該研究用數值模擬驗證了其分析結果。

QCNN 架構

QCNN 架構涉及一系列卷積層和池化層,這些層減少了量子位元的數量,同時保留了有關資料特徵的資訊。

如下圖 1 所示,QCNN 架構將 Hilbert 空間 H_in 中的 n-qubit 輸入狀態 ρ_in 作為輸入,該狀態透過由一系列卷積層和池化層組成的電路傳送。卷積層由兩行引數化的雙量子位元門組成,作用於相鄰量子位元的 alternating 對。在每個池化層中,測量一半的量子位元,測量結果控制應用於相鄰量子位元的 unitary。在 L 個卷積層和池化層之後,QCNN 中還包含一個全連線層,該層對剩餘的量子位元應用 unitary。最後測量一些 Hermitian 運算元 O 的期望值。

量子卷積網路中的「貧瘠高原」現象被解決,克服了量子AI一大難題

QCNN 架構示意圖。

該研究將 QCNN 的輸入狀態對映到 Hilbert 空間中的一個縮減狀態,其中 H_out 的維度遠小於 H_in 的維度。輸出狀態可以表示為:

量子卷積網路中的「貧瘠高原」現象被解決,克服了量子AI一大難題

其中,V(θ)是包含卷積層和池化層以及全連線層中的門的 unitary,θ 是可訓練引數的向量,

量子卷積網路中的「貧瘠高原」現象被解決,克服了量子AI一大難題

表示除 H_out 中以外的所有量子位元的偏跡數(partial trace)。請注意,QCNN 中的非線性源於池化層中的池化運算元,這有效地降低了每一層的自由度。

代價函式

QCNN 的目標是應用一個訓練集 S(S 的大小 M=|S|),包含輸入狀態

量子卷積網路中的「貧瘠高原」現象被解決,克服了量子AI一大難題

來最佳化 QCNN 中的引數,並最小化代價函式,代價函式可表示為

量子卷積網路中的「貧瘠高原」現象被解決,克服了量子AI一大難題

其中 c_α是實係數,

量子卷積網路中的「貧瘠高原」現象被解決,克服了量子AI一大難題

是從如下等式 (1) 中獲得的,每個輸入狀態為ρ_in。

Ansatz

為了簡單起見,該研究主要考慮兩種情況:n=2^k 和 L=log(n)=k,這樣 dim(H_out)=2。此外,該研究假設卷積層和池化層中的 unitary 是獨立的。也就是說,V(θ) 中的卷積層和全連線層由作用於相鄰量子位元的兩個量子位元引數化 unitary 塊組成,表示為

量子卷積網路中的「貧瘠高原」現象被解決,克服了量子AI一大難題

研究者注意到,這種泛化包含作為特殊情況的常見 QCNN 結構,其中同一卷積或池化層中的塊是相同的。此外,研究者在論文的結果部分討論得出:卷積層中的 unitary 相關性往往會增加代價函式的梯度幅值。

量子卷積網路中的「貧瘠高原」現象被解決,克服了量子AI一大難題

如上等式 (13) 所示,由於代價函式偏導數的方差獨立於 I_ij 中的受控 unitary,因此可以將池化層中運算元 I_ij 的作用附到卷積層中 unitary 的作用上。因此,QCNN 的張量網路表徵如下圖 2 所示。

量子卷積網路中的「貧瘠高原」現象被解決,克服了量子AI一大難題

QCNN 的張量網路表徵。

此外,該研究還提出了一種分析方差縮放的新方法,稱為 GRIM。

量子卷積網路中的「貧瘠高原」現象被解決,克服了量子AI一大難題

QCNN 架構的 GRIM 模組。

這項研究有什麼意義?

作為一種人工智慧方法,QCNN 受到視覺皮層的啟發,因此涉及一系列的卷積層與池化層,在保持資料集重要特徵的同時降低了資料的維度。這些神經網路可用於解決一系列問題,從影象識別到材料發現。克服貧瘠高原是挖掘量子計算機在人工智慧應用中的全部潛力並展示其優於經典計算機的關鍵。

Marco Cerezo(論文合著者之一)說,到目前為止,量子機器學習的研究人員分析瞭如何減輕貧瘠高原的影響,但他們缺乏完全避免它的理論基礎。LANL 的工作展示了一些量子神經網路實際上不受貧瘠高原的影響。

「有了這個保證,研究人員現在將能夠篩選關於量子系統的量子計算機資料,並將這些資訊用於研究材料特性或發現新材料等方面。」LANL 的量子物理學家 Patrick Coles 說。

40 多年來,物理學家一直認為量子計算機將被證明可用於模擬和理解粒子的量子系統,這會扼殺傳統的經典計算機。LANL 研究證明穩健的量子卷積神經網路型別有望在分析量子模擬資料方面獲得應用。

「關於鐳射有一句名言,當它們第一次被發現時,人們說它們是尋找問題的解決方案。現在到處都在使用鐳射。同樣,我們中的許多人懷疑量子資料能否變得高度可用,可能意味著量子機器學習也會起飛。」Coles 說道。

參考連結:

https://discover.lanl.gov/news/releases/1015-quantum-ai

分類: 娛樂
時間: 2021-10-26

相關文章

廣東電視臺節目主持人伍燕成為熒屏常青樹,她是大灣區的美麗縮影

廣東電視臺節目主持人伍燕成為熒屏常青樹,她是大灣區的美麗縮影
伍燕在24年前出道於廣東電視臺主持界,那時候的她還是星海音樂學院的大三學生,如果按照時間推算,如今的她應該大概45歲了,然而從她的笑容.從她的氣質當中仍然可以看得出她美麗依舊.在廣東電視臺主持界當中, ...

100多個冠軍!全紅嬋恩師教練造廣東跳水王朝:揭秘連出奧運冠軍

100多個冠軍!全紅嬋恩師教練造廣東跳水王朝:揭秘連出奧運冠軍
近日廣東體育頻道做了一期節目,揭秘跳水夢之隊裡的夢之隊--廣東跳水隊.中國跳水隊被譽為夢之隊,而廣東跳水隊就是夢之隊裡的夢之隊.東京奧運會上,謝思埸.全紅嬋和陳艾森都是廣東出品的跳水隊員,一共拿到3金 ...

“相聲演員”大兵的毀滅史,從紅遍全國到無人問津,經歷了什麼?

“相聲演員”大兵的毀滅史,從紅遍全國到無人問津,經歷了什麼?
1998年,郭德綱第一次去北京,剛經人介紹認識了于謙,那時的他還是默默無聞的北漂相聲演員,距離登上"相聲皇帝"之位還需走十幾年路程. 但同年的10月,已經頗有名氣的湖南方言相聲演員 ...

從“紅遍全國”到“糊穿地心”,張亮才是資本玩弄的一顆棋子

從“紅遍全國”到“糊穿地心”,張亮才是資本玩弄的一顆棋子
2013年,<爸爸去哪兒>開播,邀請到了"不老男神"林志穎."跳水冠軍"田亮."實力派演員"郭濤."芒果臺家屬&quo ...

四川這處斷崖將紅遍全網,落差千米的仙境,這裡被稱作地球邊緣

四川這處斷崖將紅遍全網,落差千米的仙境,這裡被稱作地球邊緣
#自駕闖天下# 天府之地--四川,這裡有著眾多壯麗的自然風光,隨著人們的探索,一處處天然之地開始紅遍全網,逐步進入大家的眼球. 如果你對四川的風光僅侷限在:九寨溝.峨眉山.稻城亞丁等地方,那你可有點小 ...

曾紅遍大街小巷,卻突然消失的6個組合:至上勵合與小虎隊上榜

曾紅遍大街小巷,卻突然消失的6個組合:至上勵合與小虎隊上榜
"蒼茫的天涯是我的愛,綿綿的青山腳下花正開..." 如果沒猜錯的話,這是愛跳廣場舞大媽裡面必跳的歌曲之一,被稱為"神曲",唱這首歌的鳳凰傳奇組合,也受到大眾的追 ...

萬山紅遍,層林盡染!|《美術經典中的黨史》邀您走近國畫《萬山紅遍》……

萬山紅遍,層林盡染!|《美術經典中的黨史》邀您走近國畫《萬山紅遍》……
問蒼茫大地,誰主沉浮? 1924年底,為了探索中國革命新的道路,毛澤東回到韶山開始嘗試組織農民運動. 毛澤東探親訪友,召開各種座談會,瞭解農村的情況,並開辦了20多所農民夜校,教農民識字.珠算,對農民 ...

不覺秋色淺 楓葉紅遍天 農安人民公園景色美

不覺秋色淺 楓葉紅遍天 農安人民公園景色美
早晨,自己做了一個幹豆腐燉白菜葉,亂刀切片,加上大辣椒,切長條,放到一起,五分鐘就上桌,熱一熱剩下的饅頭,可以說營養豐富,味道爽口. 吃完飯,給手機充上電,看外面天藍如水,萬里無雲,窗外的樹葉靜靜不動 ...

當年在閱兵儀式上“紅遍中國”的雙胞胎姐妹花,後來怎麼樣了?

當年在閱兵儀式上“紅遍中國”的雙胞胎姐妹花,後來怎麼樣了?
"中華兒女多奇志,不愛紅裝愛武裝.",在我國的歷史上從不缺少巾幗不讓鬚眉的女子英雄. 往遠了說替父從軍的花木蘭,力挽狂瀾的楊門女將,都是巾幗英雄中的佼佼者,在近代更是有革命女俠秋瑾 ...

因“以德服人”紅遍內地,一生未戀愛的雷老虎,現狀如何?

因“以德服人”紅遍內地,一生未戀愛的雷老虎,現狀如何?
一 1941年,陳松勇出生於中國臺灣,從小喪母,據說父親有黑道背景. 陳松勇從小就脾氣火爆.10歲那年在街上抽獎,明明抽中了魷魚頭,可店主非說是魷魚尾,爭執了半天也沒有結果,陳松勇索性一刀插進店主的屁 ...

紅遍時尚界的千鳥格紋原來大有來頭

紅遍時尚界的千鳥格紋原來大有來頭
千鳥格起源於威爾士王子格,也稱為格倫格,通俗一點的話也叫做雞爪紋.狗牙花紋-- 這種像鳥一樣的花紋,簡單.精緻.漂亮,在19-20世紀可是深受英國貴族的喜愛吶!而且可以說是隻有王公貴族才有機會使用的圖 ...

海關助力國產汽車“紅”遍海外

海關助力國產汽車“紅”遍海外
近日,首批62臺"紅旗"牌汽車運抵連雲港口岸,南京海關所屬連雲港海關提前跟進,第一時間開展查驗工作,保障該批車輛順利裝運出境. "隨著國內汽車產業快速發展,國產汽車憑藉美 ...

21歲紅遍全國,退圈賣薯片成人生贏家,孔雀公主李秀明的傳奇人生

21歲紅遍全國,退圈賣薯片成人生贏家,孔雀公主李秀明的傳奇人生
"她放棄鮮花掌聲,只求平淡幸福" 有這樣一個演員,她叫李秀明,她長相貌美,在她初出茅廬的時候,著名演員劉曉慶說可以為她演配角,著名的大導演謝晉甚至破例為她拍了一部電影. 在李秀明走 ...

中國紅,紅遍古今的經典雕花紋樣
中國古代工匠集智慧與技藝於一身,在傢俱的裝飾中,融入了不少經典美妙的雕花紋樣設計,造就了獨一無二的華夏裝飾風格.古人喜歡在紋樣設計中融入美好寓意,表達出一種對美好生活的嚮往.歷史輪迴,時至今日,人們依 ...

廣東電視臺資歷最老的女主持人喻明,美了一輩子卻容易被觀眾遺忘
如今仍活躍在廣東電視珠江臺的節目主持人當中,資歷最老的男主持人大家知道是誰嗎?不是鄭達,也不是任永全,而是1986年進入廣東電視臺的柳敬東.如今仍活躍在廣東電視珠江臺的節目主持人當中,資歷最老的女主持 ...

23歲爆紅,娶18歲初戀,28歲兒子夭折,歐陽奮強如今怎樣了?

23歲爆紅,娶18歲初戀,28歲兒子夭折,歐陽奮強如今怎樣了?
29年後,有個"半仙兒"建議他改名為歐陽寶玉. 那時的歐陽奮強已是知天命之年. 戴著半生導演頭銜行走江湖,到頭來在人群中,人們見到他的第一句話還是: "這是賈寶玉嗎?&q ...

“反轉人生”的李誕,為何落得眾叛親離的結果?

“反轉人生”的李誕,為何落得眾叛親離的結果?
文:話多多 編輯:九弦子 他說:"即使兩個人彼此憎恨,也得睡在同一個夜裡". 若是恨得繼續在同一空間裡呼吸空氣,彼此都覺得在褻瀆自己的靈魂與肉體,那麼分手也就成了必然. 愛情如此, ...

廣東臺輝煌年代的造星夢工場:電視臺藝人訓練班培養了哪些明星?

廣東臺輝煌年代的造星夢工場:電視臺藝人訓練班培養了哪些明星?
廣東的70.80後都知道,廣東電視臺在九十年代曾經有過一段輝煌歷史.那個年代陸續拍攝了許多經典的本土電視劇,如<萬花筒>.<冷暖兩心知>.<首富人家>.<外來 ...

有9種街頭美食在廣東很出名,我全部吃過,你吃過幾種呢?

有9種街頭美食在廣東很出名,我全部吃過,你吃過幾種呢?
來廣東旅遊或者是出差,很多人會選擇去一些比較出名或者是有檔次的飯店品嚐當地的美食.這無疑是最快的一種途徑,可我想說的是美食離不開煙火氣.當你走進廣東的大街小巷,看著大爺大媽搖著蒲扇.穿著拖鞋.喝著早茶 ...

中秋節:廣東風土習俗,每一個廣東人,都是這樣過著中秋節的

中秋節:廣東風土習俗,每一個廣東人,都是這樣過著中秋節的
中秋節,廣東人從古至今就有焚香拜月的習俗, 在焚香拜月之前,很多小孩子會在大人的催促之下,用香皂洗個香噴噴的澡,而後開開心心地套上衣服,跟等候已久的小夥伴們在大街小巷裡,嬉戲打鬧. 當皓月初升,在家門 ...