編輯:桃子 好睏
【新智元導讀】2021,還有3天就結束了。回顧過去一年,科技圈有什麼BIG NEWS還印在你的腦海?元宇宙、AlphaFold2開源、IBM首發2nm工藝... 2021,AI從不缺重磅新聞。展望2022,科技領域將會有哪些大趨勢?
2021,還有3天就結束了。
回顧過去一年,科技圈有什麼BIG NEWS還印在你的腦海?
扎克伯格宣佈將Facebook改名Meta,全力進軍「元宇宙」;微軟推出混合現實會議平臺Mesh;英偉達全能阿凡達平臺的3個虛擬人同時亮相...
過去,當馬斯克說要在人類大腦植入晶片時,你一定認為他瘋了。
但Neuralink在今年5月讓一隻植入晶片的猴子用意念打乒乓球遊戲時,全世界都被震驚。
另外,DeepMind今年開源了AlphaFold2,並能夠預測出98.5%的蛋白質結構,讓學術圈再次沸騰。
不僅如此,研究人員還將其做成了資料集,將其免費開放。
1750億引數GPT-3在2020年釋出後,NLP大模型也在不斷重新整理紀錄。
微軟和英偉達聯手釋出了5300億引數的「威震天」,智源1.75萬億引數的「悟道2.0」,阿里達摩院釋出創紀錄的10萬億引數多模態大模型「M6」,並且實現GPT-3同規模僅需1%能耗…….
還有IBM首發2nm工藝,人形機器人Ameca甦醒......
2021年並不缺重磅新聞,人工智慧依然能夠殺出重圍,走進主流視野。
展望2022年,科技領域會有哪些大趨勢?
今天,達摩院重磅釋出2022十大科技趨勢,這是連續第四年釋出。
透過「定量發散」與「定性收斂」,達摩院分析了近三年來的770萬篇公開論文、8.5萬份專利,透過挖掘其中熱點及重點技術突破,深度訪談近100位科學家,提出了2022年可能照進現實的十大科技趨勢。
AI仍是最濃墨重彩的主角,但基本正規化正在發生變革;晶片技術將更迭;下一代網際網路即將到來……
AI新正規化
科學研究是在星辰大海里探索未知,其中,實驗科學和理論科學是數百年來科學界的兩大基礎正規化。
而人工智慧正在催生新的科研正規化。
以蛋白質為例,透過研究其3D結構,生物學家不僅可以更加快速地研發出針對各類疾病的藥物,甚至能夠揭開生命之謎。而「蛋白質摺疊問題」在過去的50年裡一直是生物學的一個巨大挑戰。
1969年,賽勒斯·萊文塔爾 (Cyrus Levinthal) 指出,透過蠻力計算列舉出典型蛋白質的所有可能構型所需的時間比已知宇宙的年齡還要長:一個典型的蛋白質可能有10的300次方種摺疊形式。
不過,隨著人工智慧的發展,2021年7月,DeepMind先是在Nature上開源了利用AI對蛋白質結構進行預測的AlphaFold 2,隨後又釋出了來自人類和20種其他生物共350000種蛋白質結構的預測結果。
經過訓練的深度神經網路可以根據蛋白質的基因序列預測蛋白質的特性。主要判斷依據是氨基酸對之間的距離和連線這些氨基酸的化學鍵之間的角度。透過已知資訊,可以推斷出蛋白質摺疊之後的角度和距離資訊,從而推斷出整個蛋白質的結構。
2021年12月,DeepMind首次利用人工智慧幫助數學家們提出了兩個全新的數學猜想,登上Nature封面。
作者猜測低維拓撲中存在未知的非線性關係,產生了很多資料並用神經網路擬合了近似函式,發現其中三個量在擬合過程中起到了很重要的作用。透過反正做擬合實驗,產生新的資料,得到新的觀察模型,最終數學家利用智慧猜出了一個不等式結構,並進一步給了嚴格的證明。
由此可以看出,機器學習能夠處理多維、多模態的海量資料,解決複雜場景下的科學難題,帶領科學探索抵達過去無法觸及的新領域。
而人工智慧也將成為科學家繼計算機之後的新生產工具:
1. 帶來效率的顯著提升,人工智慧將伴隨科研的全流程,從假設、實驗到歸納總結,讓科學家不需要像過去一樣十年寒窗才能產出科學成果,而是能在一生中保持高產;
2. 讓科學不再依賴少數天才,人工智慧對科學研究產生猜想,讓科學家就其中有意義有價值的部分進行實驗與證明,讓更多人能夠參與到科學研究中。
阿里達摩院預測在未來的三年內,人工智慧技術在應用科學中將得到普遍應用,在部分基礎科學中開始成為研究工具。
大模型也卷不動了
AI能夠取得這些成就的背後,少不了模型的支撐。
隨著規模的不斷擴大,預訓練模型在文字、影象處理、影片、語音等多個AI領域實現了突破性進展,並逐漸成為人工智慧的基礎模型。
2018年,谷歌提出3億引數BERT模型驚豔四座,大規模預訓練模型也因此逐漸走進人們的視野,成為人工智慧領域的焦點。
2019年2月,OpenAI推出了15億引數的GPT-2,能夠生成連貫的文字段落,做到初步的閱讀理解、機器翻譯等。
緊接著,英偉達推出了83億引數的威震天Megatron-LM,谷歌推出了110億引數的T5,微軟推出了170億引數的圖靈Turing-NLG。
2020年6月,大模型來到了一個分水嶺,OpenAI以1750億引數的GPT-3,直接將引數規模刷到千億級別,直逼人類神經元的數量。作詩、聊天、生成程式碼等等,無所不能。
在沉寂了一段時間之後,微軟和英偉達在2021年10月聯手釋出了5300億引數的Megatron-Turing自然語言生成模型(MT-NLG)。同時奪得單體Transformer語言模型界「最大」和「最強」兩個稱號。
除了千億規模的稠密單體模型,還有萬億規模的稀疏混合模型。
2021年1月,谷歌推出了1.6萬億引數的Switch Transformer。12月,這個記錄被達摩院的M6模型的10萬億引數打破,大模型引數直接提升了一個量級,而且達摩院只用了512張GPU進行訓練。
然而,同樣隨著模型規模擴大的是訓練對資源消耗越來大,而引數數量增加所帶來的效能提升與消耗提升不成比例。
大模型確實帶來了非常驚豔的表現,但也有研究開始對「模型引數越多,效能也越好」是否始終成立提出了質疑。
例如,谷歌的研究人員開發了一個引數量遠小於GPT-3的模型——微調語言網路(fine-tuned language net, FLAN),這個1370億個引數的模型在許多有難度的基準測試中效能都大幅超過GPT-3。
阿里達摩院認為,接下來大模型的引數規模發展將進入冷靜期,大模型與相關聯的小模型協同將是未來的發展方向。
其中,大模型沉澱的知識與認知推理能力向小模型輸出,小模型基於大模型的基礎疊加垂直場景的感知、認知、決策、執行能力,再將執行與學習的結果反饋給大模型,讓大模型的知識與能力持續進化,形成一套有機迴圈的智慧系統。參與者越多,模型進化的速度也越快。
而這樣的一種新的智慧體系,將會帶來三點優勢:
1. 讓小模型更容易獲取通用的知識與能力,小模型專注在特定場景做極致最佳化,提升了效能與效率;
2. 解決了過去大模型資料集過於單一的問題,小模型在真實場景回收的增量資料,讓大模型有再進化的元素;
3. 全社會不需要重複訓練相似的大模型,模型可以被共享,讓算力與能源的使用效率最大化。
對此,南京大學計算機科學與技術系主任兼人工智慧學院院長周志華也提出了自己的觀點:
大模型未來會在一些重大任務上發揮作用,而在其他一些場景下或許會透過類似整合學習的手段來利用小模型,尤其是透過很少量訓練來「複用」和整合已有的小模型來達到不錯的效能。
阿里達摩院預測在未來的三年內,個別領域將以大規模預訓練模型為基礎,對協同進化的智慧系統進行試點探索。
在未來的五年內,協同進化的智慧系統將成為體系標準,讓全社會能夠容易地獲取並貢獻智慧系統的能力,往通用人工智慧再邁進一步。
XR,下一代網際網路
就像《駭客帝國》所描繪情景,未來的虛擬世界是否是矩陣模擬中的那樣,這是未知的。
拉近點距離,我們如何才能進入這個虛擬世界才是最重要的一步。
這裡就不得不提,頭號玩家中那副眼鏡或許是開啟新世界的大門。
未來,眼鏡有望成為新的人機互動介面,推動形成有別於平面網際網路的XR(未來虛實融合)網際網路。
XR網際網路將改變使用者的資訊感知和獲取方式,最大的特徵是由二維平面走向三維立體的沉浸式體驗,資訊會以自然的方式被獲取,讓使用者所見即所得。
阿里達摩院預計未來3年內會產生新一代的XR眼鏡,融合AR與VR的技術,成為下一代網際網路的關鍵入口。
據報道,蘋果明年預計會推出首款AR/MR頭顯,將配備3D感測器,能夠實現手眼動作全追蹤。
其實,眼鏡只是構成XR網際網路所需要的四大要素其中的一種。
完整的XR網際網路包括:硬體(如XR眼鏡等)、內容(如娛樂、購物、社交等)、人工智慧(如空間感知、數字孿生)、基礎設施(如5G、雲計算等)。
四大要素中硬體和內容會率先發展,硬體是獲取資料與使用者互動的基礎,也是網際網路平臺的載體。
XR眼鏡將會成為XR網際網路的第一入口,同時雲網端協同將改變眼鏡的形態,使其向著體積更小、重量更輕、響應速度更快的方向發展。
內容則以娛樂社交和辦公場景開始,再逐漸發展至購物、教育、醫療等對遠距互動有一定需求的場景。
就比如,微軟推出的混合現實會議平臺Mesh,人們可以透過虛擬化身的形式見面和互動,還能共享Office檔案等。
XR網際網路改變人與科技互動的方式:
· 模擬真實世界的時空,解決真實世界遠距移動的問題,如遠端教育、遠端醫療、遠端辦公等,克服地理空間的限制。
· 創造真實世界不存在的時空,解決真實世界不完美的問題,如遊戲、社交等,讓使用者能夠重新建立自我認可,並以接近真實世界的方式進行互動。
XR網際網路也將重塑現有的產業結構,催生一批從元器件、裝置、作業系統到應用的新產業生態。
2022,AI還有什麼看點?
除了AI for Science、大小模型協同進化、XR網際網路之外,阿里達摩院還預測了2022另外七大科技趨勢。
矽光晶片
當前,矽基半導體已經推進到5nm和3nm,IBM今年也宣佈了突破2nm的「PPT 工藝」。
電子晶片發展逼近摩爾定律極限,整合技術進步趨於飽和,高效能計算對資料吞吐要求不斷增長,亟需技術突破。
光子晶片是用光子代替電子進行資訊傳輸,可以承載更多的資訊和傳輸更遠的距離。
光電融合是未來晶片的發展趨勢,矽光子和矽電子晶片取長補短,充分發揮二者優勢,促使算力的持續提升。
未來三年,矽光晶片將支撐大型資料中心的高速資訊傳輸;未來五到十年,以矽光晶片為基礎的光計算將逐步取代電子晶片的部分計算場景。
柔性感知機器人
特斯拉AI日上,馬斯克宣佈明年即將推出Tesla Bot;波士頓動力公司的機器人Atlas上演驚豔跑酷;還有英國Engineered Arts開發的人形機器人Ameca讓人直呼恐懼。
近年來,柔性機器人結合柔性電子、力感知與控制、人工智慧技術,獲得了力覺、視覺、聲音等感知能力,應對多工的通用性與應對環境變化的自適應性大幅提升。
預計未來5年,兼具柔性和類人感知的機器人將逐步替代傳統工業機器人,成為產線上的主力裝置,並在服務機器人領域開始規模化應用。
還有以下這五大科技趨勢,它們分別是:
綠色能源AI:人工智慧助力大規模綠色能源消納,實現多能互補的電力體系
高精度醫療導航:人工智慧與精準醫療深度融合,助力診療精度與效率提升
全域隱私計算:破解資料保護與流通兩難,隱私計算從小資料走向大資料
星地計算:衛星及地面一體化的通訊與計算,促進空天地海全面數字化
雲網端融合:雲網端融合形成新計算體系,催生雲上新物種
過去一年,我們見證了人工智慧以全新的方式深入我們的生活,這些進步賦予未來很多可能。
2022年,對於AI必將是令人興奮的一年。
未來可期。
點選2022 Top 10 Technology Trends of Damo Academy獲取《達摩院2022十大科技趨勢》全文