sponsored links

Google公佈新的多模態AI構架Pathways

Google上週公佈可改善現有機器學習過於專注單一任務的問題,能同時處理多樣任務、快速學習新任務、具備完整理解力的AI構架Pathways。

Google公佈新的多模態AI構架Pathways

Google資深院士Jeff Dean指出,現今的機器學習模型大都是為單一新問題而從頭訓練起,訓練好也只用於一項任務,結果企業或科學家開發出數千種單一任務的模型。由於模型能力無法累積、概括化(generalize),每次機器學習過程要花更久時間,需要的資料也更多,但人腦學習的運作並非如此,因為人類會在舊技能基礎上學習新技能。

因此Google想訓練的是不但能處理多種不同任務的模型,而且還能利用及結合它在一項技能學習到的能力(學習從空照圖預測地面抬升的能力),來學習另一項新技能(例如預測洪水是否會流經某地形)。

Google公佈新的多模態AI構架Pathways

Google想訓練的是,可概括化到數百萬種任務的單一AI模型構架,它有多種能力,需要時可以呼叫,又能整合這些能力來執行更復雜的新任務。Google稱之為Pathways。利用Pathways,Google將開發能因應新需求、新問題的次世代AI系統。

Dean解釋,今天的機器學習模型是一次處理資訊的單一模態(modality),無法同時處理一個以上。但Pathways使用多模態模型,可同時處理視覺、聽覺及語言理解。例如當系統不論聽到、看到“獵豹”這個字詞,或是看到這個動物的影象,都會引發同一種反應。Dean指出,這種多模態能力的模型能看得更全面,避免偏見或錯誤。

此外,除了這些資訊,Pathways還能處理更多類抽象資訊,例如幫助科學家從複雜的天氣系統中,找出許多難以發現的資料規律(pattern)。

Google公佈新的多模態AI構架Pathways

Google指出Pathways另一個優點是更有效率。Dean解釋,現有機器學習模型處理任務都太密集、太“勞師動眾”,即不論問題大小、簡單或複雜,都會啟動整個神經網路。但Pathways更像人腦的運作,處理簡單任務只會啟動零星資源,即啟用神經網路的一小部份路徑,而且它還會動態學習什麼任務、最適合使用哪些路徑,使得系統更有效率。

例如Google建立的2個最大的機器學習模型,包括GShard和Switch Transformer因為已經具有“零星啟動”特性,因此和同樣大的密集模型系統相比,僅耗費1/10的能源。

分類: 情感
時間: 2021-11-01

相關文章

我,32歲,爸媽離婚後不婚不育,和奶奶在農村生活,每天6點起床

我,32歲,爸媽離婚後不婚不育,和奶奶在農村生活,每天6點起床
我,32歲,爸媽離婚後不婚不育,和奶奶在農村生活,每天6點起床 我叫劉建華,今年32歲,湖南人,聽我的名字,有點像男人,但是我是一個女的. 我爸媽在從我記事起就一直在吵架,即使這樣,我還是有一個弟弟, ...

爸媽經常吵架,對孩子有哪些影響?比想象中更嚴重

爸媽經常吵架,對孩子有哪些影響?比想象中更嚴重
在我們周圍,很多男女在結婚前甜甜蜜蜜.恩恩愛愛,在結婚有了孩子後,卻往往容易吵架,有的夫妻甚至變得水火不容. 還有一些夫妻在有了孩子後,他們認為只有孩子才是和自己血脈相連的人,而把配偶當成了外人.所以 ...

生完孩子後,新手爸媽應該瞭解的3個育兒小知識,學會了輕鬆帶娃

生完孩子後,新手爸媽應該瞭解的3個育兒小知識,學會了輕鬆帶娃
文|叮麻育兒 懷孕後期,我特別期盼寶寶出生,總想著寶寶出生我就解放了,可以睡整覺.吃美食:可是真等寶寶出生了,我卻想把他再"塞"回去. 因為照顧寶寶並不是一件簡單的事情,尤其是我這 ...

“孩子上幼兒園後,爸媽回了老家”父母與子女,是漸行漸遠的修行

“孩子上幼兒園後,爸媽回了老家”父母與子女,是漸行漸遠的修行
年輕的時候,我特別叛逆.做什麼事情,都喜歡跟父母對著幹.他們叫我往東,我偏要往西.從不順著父母的意,為此我也吃了不少的苦頭. 後來的我,不聽父母的勸阻,孤身一人在異鄉求學,嚐遍了人情的冷暖後,才明白真 ...

金毛狗一晚巡房15次 寵妹行為令爸媽崩潰:孩子又不是你的

金毛狗一晚巡房15次 寵妹行為令爸媽崩潰:孩子又不是你的
在那麼多的寵物之中,萌貓覺得論"懂事",肯定是非狗狗莫屬的. 它們不僅會忠於自己的主人,而且還懂得愛屋及烏. 只要是家裡的成員,它都會一視同仁去對待,包括初來乍到的小主人. 狗狗M ...

2歲女兒不想吃飯,擔心自己吃多了飯長大後爸媽就會老去

2歲女兒不想吃飯,擔心自己吃多了飯長大後爸媽就會老去
近日,北京的張先生分享了一次被自己家小棉襖暖到的經歷.當天他喂2歲多的女兒吃飯,但是女兒不願意吃,張先生用給媽媽打小報告來"威脅"都沒用,最後女兒說出了不想吃飯的原因,讓張先生差點 ...

孩子被100度開水燙傷,媽媽用一小時五字訣處理,醫生:做得好

孩子被100度開水燙傷,媽媽用一小時五字訣處理,醫生:做得好
文|菁媽 兩歲的熊熊是個熊孩子,人如其名,平時特別喜歡摸來摸去各種探索.媽媽說:除了睡覺,其他時間不敢讓孩子離開自己一秒鐘.#謠零零計劃# 一天媽媽給熊熊做輔食,讓爸爸看一會孩子. 剛好家裡面在燒開水 ...

“一月睡二月哭三月攢肚”:0-3月寶寶照顧指南,讓爸媽少走彎路

“一月睡二月哭三月攢肚”:0-3月寶寶照顧指南,讓爸媽少走彎路
新生寶寶嬌軟可愛,簡直能暖化爸媽的心.只不過,0-3個月寶寶發育還不完善,還有很多與生俱來的反射沒有消退,對於沒有驗的新手爸媽來說,照顧起來委實困難. 年初我家小妹生了寶寶,天天打電話跟我炫耀:姐,我 ...

新手爸媽不要慌,新生兒出現這6種情況很正常!

新手爸媽不要慌,新生兒出現這6種情況很正常!
新生兒護理不當有多可怕?嚴重的話會致死!近日,廣西壯族自治區南溪山醫院就上演了一場現實版的"生死時速",一位媽媽抱著嗆奶窒息的寶寶,哭著衝進了急診室. 原來,家住附近的張女士出生還 ...

兒童秋季常見病有哪些?該怎麼防治?新手爸媽可能有這些誤區

兒童秋季常見病有哪些?該怎麼防治?新手爸媽可能有這些誤區
▌北京同仁堂中醫醫院內科副主任醫師 沈毅 一場秋雨一場寒,本週北京氣溫的下降,讓市民明顯感到了涼意.九月開學季,孩子們在開心返校.享受秋日的涼爽和快樂時,也容易因為穿脫衣服不當而著涼.俗話說,換季時小 ...

“初生牛犢不怕虎”:家裡黃鱔跑出來爸媽不敢上手,只能拜託娃了

“初生牛犢不怕虎”:家裡黃鱔跑出來爸媽不敢上手,只能拜託娃了
本文由護芽媽媽原創,歡迎個人轉發和分享 不知道大家有沒有發現一個很奇怪的現象,自己越長大,膽子卻越來越小,那些小時候都不害怕的東西,現在看一眼就渾身起雞皮疙瘩. 而對於那些小朋友們來說,他們卻顯得很膽 ...

記週歲寶寶反覆高燒,給新手爸媽打了個措手不及

記週歲寶寶反覆高燒,給新手爸媽打了個措手不及
每一個寶寶都是爸媽的心頭肉,掌中寶.總是希望在能力所及範圍內給予她(他)所有最好的東西,去創造最好的條件.但在成長的路上,遇到各種各樣的困難,也是在所難免,無法逃避的.有些經歷,註定是為人父母沒法去替 ...

嬰兒護理“九不要”,新手爸媽瞭解多少?
新生的寶寶就如同初吐蕊的花兒般稚嫩脆弱,初為人父母,新手爸媽們極易由於經驗不足而出現照顧孩子時手忙腳亂.心有餘而力不足等問題.下列的新生嬰兒護理"九不要",新手爸媽一定要了解! 不 ...

“我爸媽是收廢品的!”女孩這句話為什麼獲數十萬怒贊?

“我爸媽是收廢品的!”女孩這句話為什麼獲數十萬怒贊?
最近,一個女孩的自我介紹火了. "我叫蔡暢,我性格非常好." "我一直有個外號,叫蔡胖,可以看出來我的體型......" 這是她的開場白,幽默又自信,下面的同學 ...

親愛的爸媽
媽媽是一名老師,爸爸是工人 80年代國家實施計劃生育,可是說是偷偷把我帶到這世界上的 好多時候問大人,從哪裡來,就說從山上撿來的.那時還真的想象是那樣,信以為真 從小由奶奶撫養長大,直到幾歲離開奶奶, ...

1-3個月寶寶行為參考:每週詳細發育特點,新手爸媽帶娃必備攻略

1-3個月寶寶行為參考:每週詳細發育特點,新手爸媽帶娃必備攻略
文丨京媽說,原創內容. 新生寶寶好帶嗎?沒帶過的人可能認為是好帶,但帶過的家長會有經驗:新生寶寶並不好帶,尤其是前三個月的寶寶,吃喝拉撒睡的任何方面都可能隨時遇到問題. 接下來就來按周說說,寶寶出生後 ...

我,湖北人,小學畢業,爸媽重男輕女不讓讀書,如今靠我賺錢養家

我,湖北人,小學畢業,爸媽重男輕女不讓讀書,如今靠我賺錢養家
我,湖北人,小學畢業,爸媽重男輕女不讓讀書,如今靠我賺錢養家 我叫張梅,今年32歲,出生在湖北的一個小山村,我爸媽是一個非常傳統的人,重男輕女思想很嚴重,我有一個弟弟,自從我弟弟出生後,我感覺自己就像 ...

為什麼很多學生上了大學後,很少主動聯絡爸媽?背後的原因很心酸

為什麼很多學生上了大學後,很少主動聯絡爸媽?背後的原因很心酸
大學這幾年說長不長.說短不短,裡面有美好.也有辛酸,但這些都要大學生自己去經歷,解決了一個一個問題之後,你會慢慢的改變,變得成熟. 很多孩子剛上大學的時候,還會經常給父母打打電話,說一說遇到的所有事情 ...

一位學生的感慨,高考結束後才明白,為啥爸媽堅決不讓我“住校”

一位學生的感慨,高考結束後才明白,為啥爸媽堅決不讓我“住校”
上了高中之後,該不該讓孩子獨自生活,一個人去學校住校?這個問題困擾了很多家長,但是應不應該住校,我們只能從兩種不同的結果回頭看. 中考結束,意味著又有一批學生要上高中了,成為高中生之後,生活的獨立自理 ...

寶寶不是“小大人”出現這些症狀 新手爸媽先別急
十月懷胎一朝分娩,全家人面對呱呱墜地的寶寶喜笑顏開.但是在養育過程中新手爸媽卻時常面臨育兒煩惱:出生白白胖胖的寶寶三天後怎麼面板變黃了?寶寶怎麼不長肉還掉秤了,一天排四五次稀便要不要緊啊?血常規化驗單 ...