一項新研究聲稱機器學習開始看起來很像人類認知
2019 年,麻省理工學院新聞讀者 發表了對諾姆喬姆斯基和史蒂文平克這兩位世界上最重要的語言和認知科學家的採訪。然而,當被問及機器學習及其對認知科學的貢獻時,他們的意見聚集在懷疑和接近失望的旗幟下。
“在幾乎所有相關方面,很難看出 [機器學習] 如何對科學做出任何貢獻,”喬姆斯基感嘆道,“尤其是認知科學,無論它對於構建有用的裝置或探索正在使用的計算過程。”
雖然人工智慧尚未實現類似人類的認知,但複製語言處理的人工神經網路——一個被認為是高階認知背後的關鍵組成部分的系統——開始看起來與我們在大腦中看到的驚人相似。
11 月,麻省理工學院的一組研究人員在《美國國家科學院院刊》上發表了一項研究,表明 分析機器學習的趨勢可以為了解這些高階認知大腦功能的機制提供一個視窗。或許更令人震驚的是,這項研究暗示人工智慧正在與自然發生趨同進化——沒有任何人對其進行程式設計。
人工智慧與大腦
近年來,由機器學習驅動的人工智慧取得了令人矚目的進步,尤其是在視覺識別領域。Instagram 使用影象識別 AI為視障人士描述照片,谷歌將其用於反向影象搜尋功能,Clearview AI等公司的面部識別演算法可幫助執法機構將社交媒體上的影象與相關單位資料庫中的影象進行匹配,以識別通緝犯個人。
撇開關鍵的倫理討論不談,這些演算法如何工作的機制可以揭示認知功能。透過將來自人類和非人類靈長類動物的神經活動與來自具有類似功能的人工神經網路機器學習模型的資料進行比較——例如,在混沌背景下識別影象——研究人員能夠深入瞭解哪些程式最有效,哪些程式最有效。最接近大腦執行相同任務的方式。
反映大腦的機器學習
Martin 最直接的發現是,一些模型非常好地預測了神經資料。換句話說,無論模型在執行任務方面有多出色,其中一些模型似乎都類似於大腦處理語言的認知機制。有趣的是,麻省理工學院的團隊將 GPT 模型變體確定為他們所觀察的組中最像大腦的。
GPT 是一種經過訓練的學習模型,可以生成任何種類的人類語言文字。它是由埃隆馬斯克創立的人工智慧研究實驗室 Open AI 開發的,就在今年 6 月,它釋出了一種能夠編寫計算機程式碼的新的人工智慧工具。直到最近,該程式的最新版本 GPT-3 還是有史以來最大的單一神經網路,擁有超過 1750 億個機器學習引數。
這一發現可以為了解大腦如何執行某些高階認知功能(如語言處理)開啟一個主要視窗。GPT 的工作原理是預測序列中的下一個單詞。它與從大腦掃描中收集的資料匹配得如此之好表明,無論大腦在語言處理方面做什麼,預測都是其中的關鍵組成部分。
一堆字磁鐵亂七八糟地疊在一起。
需要進一步研究以確切瞭解為什麼某些模型比其他模型更像大腦。這部分與這樣一個事實有關,即在機器學習中,AI 模型可能類似於一個黑匣子,其中它們的功能非常複雜,以至於即使是設計它們的人也可能無法理解進入模型的變數是如何產生的。模型是相互關聯的。 Martin 承認解析這些變數可能是一項艱鉅的任務。
從神經科學到人工智慧再回來
這項研究如此引人入勝的一個原因是,這些對認知的洞察同時指向一種正在發生的“人工智慧進化”,這種進化直到最近才被人們注意到。重要的是要記住,沒有人故意將這些模型中的任何一個程式設計為像大腦一樣,但在構建和升級它們的過程中,我們似乎偶然發現了一個有點像產生大腦本身的過程。
“也許我們可以幫助有語言理解問題的人。我謹慎地抱有希望。”
人工智慧研究的未來
Schrimpf 和他的同事們專注於擴充套件一個資訊平臺,該平臺可以吸收大量此類資料和語言模型,使整個科學界都可以訪問它們,以幫助促進進一步的進步。
智慧手機上會顯示各種訊息應用程式圖示。
雖然此類研究沒有單一的最終目標,但 Martin 認識到,建立對認知的更全面理解,同時利用這種理解來建立能夠幫助人們的實際應用程式是同一枚硬幣的兩個方面。
“這些東西在科學上是有用的,因為它們是我們對特定大腦空間所知道的一切的統一科學假設的一部分,”他說。“我 [也] 目前正在研究模型引導的刺激。所以,理想情況下,我們讓一個坐在椅子上的物件看著灰色的螢幕,然後我們會問模型,‘如果我想讓這個物件相信他們在看一隻狗,我會有什麼樣的刺激?申請?' 然後我們相應地刺激大腦,他們看到了一隻狗。我認為這是視覺的一個很好的方向。類似的事情可以用語言來完成。也許我們可以幫助有語言理解問題的人。我確實認為那裡有一個方向——我謹慎地抱有希望。”
這樣的研究和專案無疑會激發機器學習、神經科學和認知領域的新對話。它還將影響科學界的一場更激烈的討論,即大腦是否是機器學習的好模型,以及這是否重要。
“人們爭論不休,”馬丁觀察到。“我認為神經科學可以時不時地作為驗證檢查點。你們在正確的軌道上嗎?在這種情況下,您是否構建了正確的語言模型?或者它們與大腦解決問題的方式完全不同?”
無論如何,深入觀察大腦以瞭解它如何解決問題是一個每個人都應該感興趣的專案。事實證明,機器學習可能是幫助我們實現這一目標的最佳工具之一。