sponsored links

數學的力量——稀疏矩陣,所有科學都是矩陣乘法

數學的力量——稀疏矩陣,所有科學都是矩陣乘法

稀疏矩陣

科學上有句諺語:歸根結底,一切都歸結為矩陣乘法。不管你是在物理或工程中解偏微分方程,還是在用經典模型或深度神經網路進行機器學習,最後,在數值上,都是矩陣和向量的相乘,按一定順序重複。

這些矩陣通常非常大,比如1000000 x 1000000。在這種情況下,如果矩陣沒有特定的結構,那麼你就必須在記憶體中儲存大量的值,而且運算也非常耗時。這叫做稠密矩陣。然而,在許多科學應用中,矩陣確實有一定的結構。

通常,矩陣的大部分值都是零,這樣的矩陣就叫做稀疏矩陣。例如,如果1000000 x 1000000矩陣是對角線的,那麼只需要儲存10^6個值而不是10^12個值。如果用10^6個維向量乘以它,只需要做10^6次乘法而不是10^12次乘法和加法。

差別是巨大的!即使矩陣不是對角的,只要大多數值是零,記憶體和速度優勢是巨大的,因為只需儲存相對較少的非零值,而與向量的乘法只需要考慮那些非零值。

如何使用稀疏矩陣

Python的SciPy包有一個專門用於稀疏矩陣實現的子包。根據你的稀疏矩陣的結構和你想用稀疏矩陣做什麼,包中有針對給定任務最佳化的不同表示。只要使用任何稀疏矩陣類,通常可以獲得99%的速度和記憶體優勢。

首先,考慮一個大的密集矩陣。我們用隨機值填充它,都在-0.5和0.5之間:

數學的力量——稀疏矩陣,所有科學都是矩陣乘法

然後使用numpy的matmul函式將⋅相乘

數學的力量——稀疏矩陣,所有科學都是矩陣乘法

數學的力量——稀疏矩陣,所有科學都是矩陣乘法

這在我的電腦上需要7.07秒。現在讓我們以同樣的方式使用一個對角矩陣,並將其儲存為一個普通矩陣:

數學的力量——稀疏矩陣,所有科學都是矩陣乘法

這在我的電腦上花了7秒,幾乎是同一時間,儘管我們知道大多數乘法肯定是零。現在我們用同樣的方法來處理稀疏矩陣。因為這裡的矩陣是對角線的,我們可以使用scipy.sparse.diag:

數學的力量——稀疏矩陣,所有科學都是矩陣乘法

如果你輸出A_sparse,它會說:

數學的力量——稀疏矩陣,所有科學都是矩陣乘法

所以它實際上是一個10000x10000的矩陣,但是稀疏並且以一種特殊的對角線格式儲存。我們再做一次同樣的乘法:

數學的力量——稀疏矩陣,所有科學都是矩陣乘法

這在我的電腦上只花了0.003秒,比使用密集矩陣快了2000多倍。

分類: 科技
時間: 2022-01-05

相關文章

微型電動車“圍獵賽”:眾車企爭奪千億級市場藍海
本報記者 盛蘭 張家振 上海報道 "五菱作為小型新能源車市場的開拓者,以宏光MINI EV為首走出了一條自下而上的獨特發展道路."近日,上汽通用五菱銷售公司副總經理周鈃在接受< ...

“破產女孩”撐起千億級三坑市場

“破產女孩”撐起千億級三坑市場
作者丨麻吉 編輯丨貝爾 "三坑"服飾近年火速出圈. 三坑,指的是JK制服.漢服和Lolita服裝.相比日常時裝,這類服裝因為工藝複雜.產量少.價格高,被愛好者戲稱為"破產 ...

軸承行業:千億級市場,歐美日八大集團壟斷中高階,我國任重道遠

軸承行業:千億級市場,歐美日八大集團壟斷中高階,我國任重道遠
1.‍全球市場:行業集中度高,歐美日佔據絕對優勢 ‍ 軸承是承載軸的零件,被稱為"機械的關節". 軸承是承託轉軸或直線運動軸的機件部分,其主要功能是支撐旋轉軸或其它運動體,引導轉動 ...

開啟“千億級”大賽道,第三代半導體:將成為綠色經濟的中流砥柱

開啟“千億級”大賽道,第三代半導體:將成為綠色經濟的中流砥柱
獲取本報告PDF版請見文末 出品方/分析師:天風證券 潘暕 駱奕揚 程如瑩 1.半導體需求依舊高企,短期供需平衡難以實現 1.1. 新應用多點開花,帶動需求快速起量 1)AIoT黃金時代已至,開啟半導 ...

兩輪車“換電”風口已至,千億市場空間爆發在即

兩輪車“換電”風口已至,千億市場空間爆發在即
中國的兩輪電動車市場規模非常大,達到千億元級別.據不完全統計,目前中國的兩輪電動車日均騎行大概有7億次,每天有1.2億次左右的充電需求.不過,現在傳統電動兩輪車在充電中有幾個比較明顯的痛點. 首先,安 ...

央企重組大步走,千億級新央企將為輸配電行業帶來什麼?

央企重組大步走,千億級新央企將為輸配電行業帶來什麼?
華夏時報(www.chinatimes.net.cn)記者 李未來 見習記者 邢祺欣 北京報道 近日,中國西電集團與國家電網下屬企業將組建千億級新央企的訊息引發市場關注,一個"巨無霸&quo ...

五千億倉儲,七千萬炒作!揭秘普洱茶界最有潛力的頂級賽道

五千億倉儲,七千萬炒作!揭秘普洱茶界最有潛力的頂級賽道
2020年1月18日,東莞萬江爆出億元炒茶案,當事雙方對簿公堂,大益炒作圈子被公之於眾,涉案金額高達2億元人民幣! 2020年9月28日,雙陳普洱養普莊園開園,該企業背後的普洱茶專業倉儲行業,總產值可 ...

被女網紅手撕後,王思聰新動向曝光!再度佈局千億級新興行業

被女網紅手撕後,王思聰新動向曝光!再度佈局千億級新興行業
繼被女網紅孫一寧"手撕"後,王思聰時隔數月後再次回到公眾視野,這次曝光的是其最新的投資動態. 近日,蘇州鈦度教育科技有限公司(簡稱"蘇州鈦度教育")發生工商變更 ...

吉利領克推“四缸”摩托,長城、五菱爭相入局,千億級市場吸引車企造兩輪

吉利領克推“四缸”摩托,長城、五菱爭相入局,千億級市場吸引車企造兩輪
本文來源:時代財經 作者:楊德霖 繼五菱.長城後,又有一線車企欲切入摩托車市場. 近日,吉利旗下高階子品牌領克透過官博釋出一組摩托車特寫照引起行業關注.據特寫照顯示,該摩托車採用了領克03+風格的黑金 ...

14年上榜福布斯,千億級繼承人,父親是娃哈哈董事,39歲公開招婚

14年上榜福布斯,千億級繼承人,父親是娃哈哈董事,39歲公開招婚
上世紀八九十年代,一款飲料風靡全國,在長達三十年的發展中,娃哈哈從一個名不見經傳的品牌逐步成為全國人民都熟悉不過的國民品牌.娃哈哈公司所生產的AD鈣奶更是一代又一代人童年的記憶. 企業創始人宗慶後自1 ...

青島電視臺:黨建引領,少海匯邁向千億級智慧家居生態圈

青島電視臺:黨建引領,少海匯邁向千億級智慧家居生態圈
關注少海匯微信公眾號( ID:shaohaihui2016),瞭解更多資訊 2014年,海爾集團響應國家"雙創"號召,從產品製造企業轉型為創客孵化平臺,在海爾內部推行"小 ...

北京將打造2至3個千億規模世界級商圈!要建111個重點專案,除了環球影城還有這些

北京將打造2至3個千億規模世界級商圈!要建111個重點專案,除了環球影城還有這些
北京計劃利用五年時間打造兩到三個千億級規模的世界級商圈,目前111個重點專案已經落地六個.今天<北京培育建設國際消費中心城市實施方案>正式釋出. 北京市商務局副局長蔡小軍介紹,北京力爭透過 ...

重磅!全國在建、擬建7大千億級鋼鐵產業叢集

重磅!全國在建、擬建7大千億級鋼鐵產業叢集
近年來,我國鋼鐵產業叢集迅速發展,培育產業叢集正成為發展先進製造業的重要抓手,各地在建.擬建的七大鋼鐵產業叢集整理如下: 建龍聯手阿城區政府打造鋼鐵產業園 據瞭解,黑龍江省哈爾濱市阿城區政府已與建龍集 ...

超生二胎改變命運!本是教書匠的他,被迫下海打拼出千億帝國

超生二胎改變命運!本是教書匠的他,被迫下海打拼出千億帝國
1986年,江蘇淮安的一名教師面臨著一個艱難的抉擇,生二胎還是保住鐵飯碗,他必須二選一,而他最終選擇了前者,也因此丟掉了當時人人羨慕的教師工作. 這個人的名字叫嚴介和.沒錯,就是被李嘉誠點贊過,有著& ...

川、貴“地產一哥”均負債超千億,富力遭3300億債務壓頂

川、貴“地產一哥”均負債超千億,富力遭3300億債務壓頂
2017年7月19日,北京. 萬達將旗下13個文旅小鎮.77家酒店分別轉讓給融創.富力,交易價分別為438.44億元.199.06億元. 據傳,釋出會正式開始前,萬達王健林.融創孫宏斌和富力集團董事長 ...

央地四方簽約 川渝劍指天然氣千億產能基地

央地四方簽約 川渝劍指天然氣千億產能基地
來源:四川日報-川觀新聞 川觀新聞記者 朱雪黎 9月18日,在成都舉行的中國首席經濟學家高峰論壇上,中石油西南油氣田分公司.中石化西南油氣分公司.四川能投和成都東部新區管委會四方簽訂框架協議,宣佈將央 ...

靠板藍根發家致富,一手打造千億企業,為何到死都不肯上市?

靠板藍根發家致富,一手打造千億企業,為何到死都不肯上市?
說起徐鏡人,相信可能很多人都不太清楚他是誰.但是說起板藍根這藥,相信在國內基本上是沒有人不知道的,板藍根這藥可能很多人都吃過.徐鏡人就是板藍根顆粒的研發者,揚子江製藥集團的董事長.在2021年7月12 ...

中國腦計劃正式啟動 首年規模超30億整體規模達數百億
e公司訊,科技部網站日前正式釋出科技創新2030"腦科學與類腦研究"重大專案2021年度專案申報指南的通知,涉及59個研究領域和方向,國家撥款經費預計超過31.48億元人民幣.指南 ...

中國山西又火了!發現千億立方級氣田,能創造多大價值?

中國山西又火了!發現千億立方級氣田,能創造多大價值?
圖為山西臨興氣田 自上個世紀80年代以來,中國的燃氣生產和供應行業迎來快速發展,近年來,隨著國民經濟的穩步增長.科學技術的不斷革新以及日益嚴重的環境問題,更清潔高效能源的開發和利用逐步增加,與此同時, ...

陳赫究竟多有錢,僅靠副業總資產破千億,他是如何成功的

陳赫究竟多有錢,僅靠副業總資產破千億,他是如何成功的
他因為<愛情公寓>一炮而紅,曾經是大家眼中專情專一的好男人,與前妻許婧相戀13年,從校服到婚紗. 如今他靠副業賺得盆滿缽滿,他的副業有火鍋店,衣服,電競行業等,他就是那個幽默,讓人看到他就 ...