圖靈獎得主Bengio：關於AI的未來，哪些判斷是靠譜的

澎湃新聞記者 邵文

關於人工智慧的未來發展，常常出現各種令人興奮或害怕的預言。

如近日，谷歌創新部門前商業總監Mo Gawdat表示，“我們不會在下個世紀經歷 100年的AI進步：相反，我們將經歷2萬年的進步。”

未來學家伊恩·皮爾遜(Ian Pearson)曾於迪拜舉行的世界政府首腦峰會期間表示，人工智慧可能比人類聰明數十億倍，將來人類要想繼續生存，必須要與計算機進行整合。

馬斯克也曾表示，人類將來需要與機器相結合，成為一種“半機械人”，從而避免在人工智慧時代被淘汰。

對於如此多令人眼花繚亂、難辨真假的預測，應該如何思考分辨呢？

“這種預測越是準確，就越是要警惕。”近日，2018年圖靈獎得主Yoshua Bengio在自己的部落格中寫道。

2018年圖靈獎得主Yoshua Bengio

Yoshua Bengio是蒙特利爾大學教授，最被廣為知曉的是他在深度學習方面的開創性工作，他與Geoffrey Hinton和Yann LeCun一起贏得了2018年圖靈獎。2019 年，他獲得了加拿大國家最高科學獎“基拉姆獎”，並於2021年成為世界上被引用次數第二多的計算機科學家。

Bengio認為，現實情況是，最好的AI研究人員無法認真做出這樣的預測，除非他們將其視為科幻電影的一部分。不僅AI研究人員對AI未來的發展步伐沒有達成共識，而且做出這樣的預測也沒有科學依據。科學研究可以在特定問題上停滯很長時間（比如物理學中所有力量的統一），或在突破之後取得快速進展（比如深度學習）。

那麼，哪些事情是我們當下可以很有把握做出判斷的呢？

Bengio列出了以下幾點：

· 可以構建像人類一樣聰明的AI。我們的大腦是複雜的機器，其工作原理正變得越來越好理解。我們是活生生的證據，證明某種程度的智慧是可能的。

·構建比人類更聰明的AI是可能的。人類有時會受到認知偏見的困擾，這些偏見阻礙著人類的祖先向智人進化過程中可能需要的推理能力。而我們可以合理假設，我們將能夠構建出沒有這些缺陷（如需要社會地位、自我或屬於一個群體，毫無疑問地接受群體信仰等）的人工智慧。此外，人工智慧可以訪問更多的資料和記憶體。因此，我們可以自信地說，構建比人類更聰明的人工智慧是有可能的。

·儘管如此，現在也還遠不能確定我們是否能夠像一些文章所聲稱的那樣構建比我們自己更智慧的AI。各種計算現象都遇到了指數級的難度牆（臭名昭著的NP計算難度），而我們還沒有發現智慧的極限。

·人類智慧和人工智慧科學越進步，它就越有可能為社會帶來巨大的利益和危險。人工智慧的應用可能會增加，總體上可以極大地推動科學和技術的發展，但工具的力量是一把雙刃劍，必須制定法律、法規和社會規範，以避免或至少減少這些工具的濫用。

·為了防止被權力、金錢或仇恨慾望矇蔽的人類利用這些工具損害其他人類，我們無疑需要改變法律並在機器中引入同情心，同時也要加強人類固有的同情心。

· 由於我們真的不知道人工智慧或其他領域（例如生物技術）的技術進步會有多快，因此最好立即著手更好地監管這些強大的工具。事實上，人工智慧已經存在有害用途，無論是在軍隊中的使用，如可以識別某人的臉並進行射擊的殺手無人機，還是在人工智慧系統中做出有偏見的決定並歧視女性或部分種族的人。一般來說，對計算的監管很差，必須改變這一點。我們必須規範這些新技術，就像我們對航空或化學所做的那樣，以保護人類和社會。

· 此外，應該鼓勵對社會明顯有益的人工智慧應用，無論是在健康、應對氣候變化、反對不公正還是增加獲得知識和教育機會。在所有這些領域，政府可以發揮關鍵作用，將人工智慧研究和創業的力量引導到對社會有益的應用，因為在這些應用中，盈利的願望並不總是足以刺激所需的投資。

責任編輯：李躍群

校對：劉威