來源：金融虎APP 作者：金澤
美東時間9月15日，創新工場CEO李開復與雅虎財經總編輯安迪·塞威爾（Andy Serwer）在《影響者》對話中一起解釋了人工智慧的四大危險，並一起討論了機器人技術的未來以及人工智慧將如何在未來20年改變世界。李開復認為，在未來，人工智慧將顛覆醫療保健，改善教育，幾乎影響、顛覆或使所有可以想象的行業成為可能。
對話實錄：
安迪·塞爾沃：人工智慧已經在重塑我們的生活，改變我們的駕駛方式，改變我們打仗的方式，甚至改變我們開發疫苗的方式。還有很多事情要做。幾十年來，李開復一直是人工智慧發展的中心，曾在蘋果、微軟和谷歌擔任高管。他現在是中國風險投資公司創新工場的執行長，該公司管理著超過25億美元的資產。他的新書《AI 2041——我們未來的十大願景》幫助我們理解未來二十年這項技術的前景和危險。
李開復：它將顛覆醫療保健，改善教育，幾乎影響、顛覆或使所有可以想象的行業成為可能。
人工智慧未來20年或顛覆每一個可以想象的行業
安迪·瑟維爾：在這期“影響者”節目中，開復和我一起談論了機器人將取代的工作，人工智慧在所謂的元宇宙計劃中的作用，以及它對科技行業的贏家和輸家意味著什麼。
所以我想問你關於你的書的問題，這本書用小說來探索人工智慧將如何改變社會，不是在遙遠的未來，而是在未來的20年。你為什麼要用小說？為什麼有這麼短的時間視窗？
李開復:因為人工智慧是一項如此重要的技術，我認為每個人都應該試著去理解它。但是，對一些人來說，這聽起來像火箭科學。這很難理解。
我想讓它成為最容易接近的，甚至是最有趣的。所以我有一位合作作者，他是一位著名的科幻作家。他根據我關於未來20年內哪些技術將成熟的路線圖撰寫了這些故事。
安迪·塞爾沃：那麼人工智慧在未來二十年的影響會有多大？具體的影響方式是什麼？
李開復：這很有意義。20年其實是相當長的一段時間。想想20年前吧。如果我回到過去，用iPhone、應用程式、Netflix和Zoom向全世界展示我們今天所擁有的一切，那麼這些在當時都不存在。這幾乎就像科幻小說。
這就是——我認為，在未來，情況會發生更大的變化，因為人工智慧正在獲得許多方面的智慧，能夠與我們交談，能夠理解文字語言、影象和影片，自動駕駛車輛和機器人也能工作。它將顛覆醫療保健，改善教育，並在很大程度上影響、顛覆或使每一個可以想象的行業成為可能。所以變化很大。
安迪·塞爾沃：是的，接下來我們將討論一些可能更具體的例子。但首先，我要問你關於大流行的事。這是否影響了人工智慧的發展軌跡？
李開復：我認為它稍微加快了人工智慧的速度，部分原因是人們在家工作，工作量正在數字化。然後人工智慧可以接管或改進部分工作。我們已經看到了這一點。
另一部分原因是社會距離，機器人技術正以更快的速度發展。例如，中國的新冠病毒檢測是由機器人完成的。所以它比人快100倍。這種機器人也可以用於藥物發現和類有機物的生長。這不僅僅是41年。這是2021年。所以這也是加速機器人技術。
安迪：開復，讓我問你一個非常基本的問題。什麼是人工智慧？
李開復：人工智慧通常被認為是對智慧的研究，以及對執行只能用“智慧”才能完成的任務的技術的使用。這是一般領域。在人工智慧中，有一個稱為機器學習的子領域，有時稱為深度學習，這是機器學習的一個方面，它特別涉及開發軟體技術，使用資料學習一些需要智慧的任務。因此，這是一種資料驅動的方式，以提供智慧的外觀。目前人工智慧、機器學習、深度學習有時可以互換使用。所以我想澄清一下。
安迪·塞爾沃：例如，一臺機器執行一項任務，然後從任務中學習並改進其功能。
李開復：是的，根據資料。需要注意的是，人類程式設計師並不是將所有邏輯都程式設計到人工智慧中。人類程式設計師說去學這個。然後人工智慧獲取所有資料並從中學習。
它是從非常簡單的例子開始的。就像Facebook監視你點選的內容、購買的內容和觀看的內容一樣，然後決定以你為目標的內容，這樣你就能觀看最多的內容並停留在Facebook上，一直到自動駕駛汽車監視道路，知道你想去哪裡，規劃路線，避免撞到行人，讓你儘快到達那裡，而且安全。所以我認為這就是人工智慧今天可以做的範圍。
安迪·塞爾沃：當然，我喜歡的另一個是音樂流媒體服務，它可以瞭解你的品味，然後為你提供越來越多的選擇，如果它奏效的話，會讓你高興，對嗎？
李開復：所以它對你瞭解得越多越好。因此，如果一家音樂服務公司瞭解像你這樣的其他人，知道你喜歡什麼，你喜歡什麼是由你經常聽的內容表示的，但也包括你不聽的內容和你聽的內容，然後停下來。所以它在觀察你的同時也在學習這些。
如果一個服務真的瞭解你的其他方面，那麼它可以變得更加智慧。書中的故事之一是一家保險公司開發的超級應用程式，該公司還開發了許多其他應用程式，如社交應用程式、約會應用程式、電子商務、優惠券。然後它收集關於某人的所有模式。它能很好地減少你的保險，改善你的健康。
但有趣的是，雖然它優化了所有這些對你有益的事情，但它也無意中做了一些壞事。在故事中，它干擾了主人公的愛情生活，因為據信她約會的那個人正在拖累她的社會地位和健康。這涉及到一個種族問題，這個故事發生在印度，那裡的種姓制度已經基本消失。但當人工智慧對你瞭解得太多時，它仍然可以發現一些遺留問題。
安迪·塞爾沃：是的，所以你談到了人們關心的那些負面後果。當然，他們也看到了機器人接管的電影。有一百萬部這樣的電影。但是，關注這些潛在後果有多現實呢？
李開復：是的，大多數人最關心的一件事不會發生。但人們還應該關注很多其他問題。機器人接管的反烏托邦場景假定人工智慧具有自我意識、情感、慾望和意向性。而它卻沒有這些。
AI現在是一個巨大的最佳化器。人類說去最佳化這個。它獲取所有資料並最佳化人類告訴它要最佳化的內容。
它沒有任何慾望或信仰。如果你關閉程式，拔下電腦插頭，它就不見了。因此，認為它有意圖、慾望和不良動機的想法根本不是真的。而且可能不會被開發或可開發。
我們甚至不知道如何開發它。我們不知道人腦是如何工作的，也不知道為什麼我們會有自我意識、慾望和情感。所以有一天會發生的。但在未來20年內，這種可能性肯定非常非常小。
安迪·塞爾沃：所以，再次回到音樂的例子，這可能是非常平凡的。但這將否定偶然性，也就是我發現一些與我以前的聽力模式完全無關的東西的可能性，而這些東西實際上可能是我想聽的東西。例如，這是一個潛在的後果嗎？
李開復：那是可能的。但也可能有更聰明的人工智慧。因此，如果一個更高級別的人工智慧知道你，作為一個人，喜歡“意外發現”，因為你真的喜歡讀一些與你想要的不符的東西。這就可以推斷出你可能想在音樂中做到這一點。
它可能會試圖找到那可能是什麼。我們所認為的意外可能實際上是可以預測的。所以我認為這可能是可以解決的，當然也不是人工智慧最糟糕的結果。
人工智慧潛在的四大危險：無人機最危險
安迪·塞爾沃：肯定有一些潛在的嚴重問題。那可能是什麼？
李開復：好的，書中有一套我們稱之為外部性。當A.I.被告知要做某件事時，外部性就會發生，而它非常擅長做這件事，以至於忘記或實際上忽略了其他外部性或它可能造成的負面影響。因此，當YouTube不斷向我們傳送我們最有可能點選的影片時，它不僅沒有考慮偶然性，它還潛在地向我傳送可能影響我思維的非常負面或非常片面的觀點。因此，這將是一種形式的外部性，對使用者來說是無意的結果，因為它瘋狂地試圖最佳化其他東西。
另一個問題是個人資料，如果可能被洩露的話。另一個是偏見和公平。另一個問題是，A.I.能向我們解釋一下它為什麼做出這樣的決定嗎？對於像駕駛自動駕駛汽車、嘗試一個問題、醫療決策手術這樣的關鍵事情，它變得很嚴重。但正如我在書中所描述的，最大的危險是自主武器。那時，人工智慧可以被訓練成殺人，更具體地說，訓練成暗殺。
想象一下，一架無人機可以自行飛行，透過面部識別、細胞訊號或其他方式尋找特定的人，然後它就有了一顆子彈。一小塊炸藥，可以直射人的前額。你知道無人機的移動速度有多快，所以危險在於這種有針對性的暗殺武器可以由一個有經驗的業餘愛好者花1000美元製造出來。我認為這改變了恐怖主義的未來，因為恐怖分子不再有可能因為做壞事而失去生命。
它還允許一個恐怖組織使用10000架這種無人機來執行像種族滅絕這樣可怕的事情。當然，它改變了戰爭的未來，因為在國家和國家之間，這可能會造成嚴重破壞和破壞，但也許是匿名的，人們不知道是誰發動了襲擊。因此，這也與核軍備競賽大不相同，核軍備競賽至少具有內在的威懾力。
你不會因為害怕報復和殲滅而攻擊某人，但是自動武器作為突然襲擊是可行的，人們甚至可能不知道是誰幹的。因此，我認為，從我的角度來看，這是我所能參與的最大的危險，我們需要保持謹慎，並找出如何禁止或監管它。
安迪·塞沃：是的，那太可怕了。我想我最近讀了一篇關於戰爭未來的文章。這是可怕的，它描述了各種武器和使用這些武器的場景。因此，我們只需深入瞭解一下，我們如何防止部署或開發這些型別的武器？
李開復：舉個例子，看看歷史，化學武器和生物武器是如何被禁止的。可能會有一項全球條約得到執行。如果今天有無人機，最簡單或最便宜的方法就是製造無人機，而不是機器人。機器人更昂貴、更笨拙、更難控制。
無人機是最危險的。因此，也許有一些更強大的空中法則，無人機可以部署在何處以及如何部署，也許有一些防禦機制可以防止那裡有很多人，或者有很多政府職能可以有防禦功能，基本上可以在不允許的區域擊落無人機。所以我不是這個領域的專家。但為了集思廣益，以下是一些想法。我相信還有其他更好的主意。
安迪·塞沃：你提到的其他一些問題聽起來與美國大型社交媒體公司在隱私或無意中發出大量負面訊號方面已經遇到的問題非常接近。所以我想問你關於大型科技公司的情況。人工智慧會提供有意義的破壞途徑嗎？或者，這僅僅是大公司將參與並掌握的另一項發展？
李開復：我想很多領域都會有巨人在發展。我認為目前的網際網路公司不會輕易地跨域移動。因此，如果不加以遏制，最有可能的結果是，網際網路公司、社交媒體公司將在其領域變得越來越強大。而且反壟斷可能會阻止他們跨過域名，以及其他棘手和不同的域名。
但最有可能的是，還會出現其他巨頭——醫療保健業巨頭、保險業巨頭、交通和汽車業巨頭、機器人制造業巨頭。因此，我認為這確實是一股顛覆性力量，將使每個行業都有新的巨人出現。技術發展的自然過程就是讓大公司建立平臺，這些平臺同時有益於行業的再生，但也很危險，因為他們擁有太多的權力，以及資料的力量，他們從使用者那裡收集資料。他們對個人瞭解很多。這些資料使他們的人工智慧和技術比其他公司工作得更好，從而延長了壟斷的壽命。所以這既是一件偉大的事情，也是一件危險的事情。
人工智慧和元宇宙是如何連線的？
安迪·塞沃：當你談到跨域時，我覺得有點像元宇宙。我想知道人工智慧和元宇宙是如何連線的，或者它們是否真的存在。
李開復:當然，我認為在元宇宙中，還會有其他生物。也會有做自己的人。但也會有其他生物、寵物、外星人、遊戲和其他人。我認為如果有真實的人和虛擬的人的混合會更有趣。
所以我認為人工智慧將是其中的一部分。然後在真正自然的元宇宙中，我們將使用我們的語言和肢體語言進行交談。當然，人工智慧可以提供理解這一點的能力。
在元宇宙中，有一個棘手的，也許有點可怕的問題，元宇宙的程式設計師，構建元宇宙的公司，真的會監聽每一個對話，監視每一個人嗎?一方面，這可以讓體驗變得非常興奮，因為它可以看到什麼讓你快樂，並給你更多快樂。但在元宇宙中隱私的概念是什麼呢?所以我認為將這兩種技術結合在一起是非常令人興奮的。
安迪·塞爾沃：你最近說過，人工智慧將破壞每一個可以想象的行業。為什麼它的影響會如此普遍？你認為它真的會影響我們生活的方方面面嗎？
李開復：因為這種僅僅透過觀察資料就基本上傳遞人類智慧的能力，以及你擁有的資料越多，人工智慧就越強大的能力，這些特性使它無所不包。讓我們以醫療保健為例。
AI可以把我們的資料看得更多，並認為它是為了使我們健康，幫助我們活得更長，並治療我們的疾病。這些資料包括我們的家族史、健康記錄、可穿戴裝置、24×7的血壓，以及我們所有的成像、放射學報告、基因測序多組分輸出，當然還有血液測試。
因此，將所有這些結合起來輸入人工智慧，它可以在我們生病時做出更準確、更精確的診斷，同時也給我們健康提示，如何讓我們更健康。舉個例子，我正在使用一個人工智慧長壽軟體和一個解釋輸出的專業醫生。我正在衡量我向你們提到的所有事情。
在過去的一年裡，我的資料顯示我現在比一年前年輕了六歲。所以它能給我的建議給了我很多關於我的生活方式以及營養和藥物的建議。這僅僅是一個開始。
人工智慧還將幫助人們以十分之一的成本發現更多的藥物。罕見的疾病可以治癒。人工智慧將能夠幫助監測老年人，保持他們的健康，並觀察他們是否跌倒或沒有服藥。所以我認為整個醫療行業都會發生變化。人們不僅壽命更長，而且更健康。這只是一個行業的一個例子。
人工智慧未來20年將奪走更多的就業機會
安迪·塞威爾：開復，我想問你一點關於經濟影響的問題，因為你說人工智慧將導致一個世界，在這個世界上，一些大亨將賺大錢，而工作崗位將被丟掉。為什麼人工智慧會加劇財富不平等？對此我們能做些什麼？
李開復：是的，我們已經看到了所有的網際網路公司。我認為如果沒有人工智慧，它們可能只值它們價值的一半，因為人工智慧幫助它們實現了貨幣化。這將擴充套件到其他行業。所以大亨們，他們會更多。
他們會越來越富有。同時，因為人工智慧正在開發人類智慧的等價物，這意味著人工智慧可以完成我們今天所做的許多工和工作。特別是，人工智慧將首先做常規的工作。
因此，像電話營銷和客戶服務這樣的白領工作，以及那些複製、貼上和歸檔費用報告的桌面工作，這些工作將首先消失，因為人工智慧可以用軟體來完成這些工作。你甚至不需要機器人。然後是藍領工作，目視檢查，裝配線工作，許多服務員和女服務員，許多工作，工廠和倉庫，亞馬遜的扒手，雜貨店的收銀員，當然，在大約15年，20年後，所有的司機，所有以開車為生的人。所以，當你把所有這些加起來，這是一個相當數量的工作，同時使一小部分人超級富有，使許多人失業。這就是AI將加劇的財富不平等問題。
安迪·塞威爾：聽起來唯一剩下的工作將是編寫和編寫人工智慧程式的人。我是說，我知道這有點誇張。但人工智慧是否有可能成為職場殺手呢?或者它有可能成為一個網路工作崗位的創造者?
李開復：我認為最終它將像所有技術一樣創造淨就業機會。但我認為，未來20年，它將奪走更多的就業機會，而不是創造更多的就業機會。但隨著時間的推移，它將創造許多就業機會。
想想網際網路，對嗎？它創造了許多我們認為不會創造的就業機會。20年前，我們誰也沒想到優步司機會成為一個有趣的新職業。人工智慧也會做類似的事情。
此外，還有許多事情人工智慧在20年甚至更長的時間內無法完成。它不會有創造力。當我說它有人類水平的智慧時，我指的是一個簡單的程式，一次一個領域的事情，比如開車，比如接電話。它不具備我們所具備的一般分析和創新能力，人工智慧也不具備任何自我意識、情感、同情心、移情或贏得他人信任的能力。
因此，也會有許多與人際關係和信任有關的服務性工作，例如，我認為將出現更多工作的醫療服務。所以最終，我想我們會找到答案的。將會有新的職業產生。將有更多創造性和服務水平的工作。但在一個充滿挑戰的時期，就業機會的破壞要大於就業機會的創造。
人工智慧需要監管 中國人工智慧崛起是事實
安迪·塞威爾：有了所有這些變化和影響，一個巨大的問題是，政府在監管人工智慧方面應該扮演什麼角色？
李開復：哦，人工智慧顯然需要監管。人工智慧公司和工程師如果不小心會出很多問題。例如，保護個人的個人資料。例如，確保不存在固有的偏見或不公平。需要開發新的方式來監管網際網路公司和未來的大資料持有者。
這在全世界都在發生。我認為這可能是一些有待進一步發展的東西。首先，我認為這是對那些以非常糟糕的方式洩露個人資料的公司的一種非常嚴重的懲罰，比如未經使用者同意將其出售給他人，比如Facebook Cambridge Analytica的情況。
我發現另一個非常有趣的想法是人工智慧審計，因為在一些公司人工智慧下開啟引擎蓋，看看公平性問題出了什麼問題，既昂貴又具有挑戰性。我認為我們可能會像看待財務審計一樣看待人工智慧審計。國稅局只稽核了一小部分人。但這對人們不逃稅是一種強大的威懾。
因此，如果有一個類似的過程，當公司收到太多的投訴時，它會被審計。然後它需要在公平性和其他方面遵守。所以所有這些都必須解決。
我真的不認為目前的普遍看法是，大型網際網路公司濫用資料，所以讓我們把它分成幾家公司，我認為這是暴力行為。這太19世紀了。我們不是在19世紀處理標準石油之類的老問題，也不是在20世紀處理AT&T。這東西需要更細的紋理。真正有助於推動公司與使用者需求保持更大一致的東西，需要更微妙的方法，而不是用蠻力把公司分拆。
安迪·塞威爾：有趣的是，你最近幾年一直認為中國在人工智慧的發展上領先於美國。你是否仍然認為中國在這方面是一個更好的創新之家?如果是這樣，美國需要做些什麼才能趕上?
李開復：是的，在我上一本書《人工智慧超級大國》中，我談到了中國人工智慧的崛起，我認為這是事實。我想我並沒有說中國正在從美國手中接管。每個國家都有在不同方面都很強大的公司。
例如，我認為中國公司正在推進機器人技術，因為中國在製造業方面很強大。在美國，人工智慧公司正在推動企業人工智慧的發展。像Palantir、C3.ai這樣的公司正在世界領先。所以我認為兩國都有很好的例子。兩國的學術研究也相當活躍。
所以我的日常工作是風險投資。所以在過去的三年裡，我們投資了很多機器人公司，這些公司為工廠製造機器人和智慧技術，基本上從人們那裡接管了一些工作，但降低了成本。我認為這是一個驅動因素，因為中國是世界工廠。自動化和機器人技術是降低製造成本的最佳途徑。這是我的信仰，不僅在我的書中，而且在我的日常工作中。
安迪·塞沃：開復，我想在這裡稍微改變一下，問問你的情況，因為你的職業很有趣。例如，幾十年前，你的研究是語音識別和自動語音技術發展的核心。你有沒有想過這項技術會在這麼短的時間內發展到今天？
李開復：是的，我在1988年寫了博士論文。事實上，說實話，當時我認為到2000年，演講肯定會變得普及。我是一個過於樂觀的人，因為在實驗室工作的東西實際上有很多脆弱性，這些脆弱性最終會隨著投入市場並從使用者那裡得到反饋而得到修復。
但我想我們終於到達了那個時刻。這是我夢見AI起飛的時刻。它將把人類從日常工作中解放出來。它會有一定程度的智慧成為我們的伴侶。
它做了我們不想做的事情。這就是我所有夢想的實現。但老實說，比我想象的要晚，但很好。在我職業生涯的最後階段，我仍然能夠抓住它，但無論如何，我還是能夠抓住它。
讓複雜技術為每個人所用 李開復希望扮演一個小角色
安迪·塞威爾：說到你的職業生涯，我的意思是，你在20世紀90年代和21世紀初在蘋果、微軟和谷歌工作，這很了不起。比如說，這些公司在技術創新方面有哪些不同之處？
李開復：是的，這是一個很好的問題。我從這三家公司學到了很多。我現在堅信，公司有自己的DNA。
他們需要用自己的DNA保持堅強，才能做到最好。而且很難轉變成一種不可能的方式。例如，在蘋果公司，我學到了如何將注意力集中在使用者身上，創造出令人們驚歎的東西。
這是一把雙刃劍。這就是我為什麼要打造優秀產品的原因。這就是為什麼它們很貴的原因。
在微軟，我瞭解到一個龐大的團隊可以一起工作，構建出一個難以置信的大型產品，比如Windows。實際上，由數萬人組成的團隊能夠組織起來，構建相互關聯的軟體。開發這個巨大的單片軟體的過程真是一個奇蹟。我從微軟學到了很多。
我認為谷歌更相信，由非常聰明的人組成的小團隊可以超越大型組織，網際網路改變了一切。這就是我在谷歌學到的，事實上，從谷歌地圖、Gmail到谷歌大腦的小專案，以及一些人工智慧的努力，都是少數幾個人，他們可以做出巨大的改變，因為他們非常聰明。
它是一個非等級組織。人們都可以有很好的想法。這裡的等級制度和官僚作風都很簡單。所以我從每個人身上學到了很多。自從我離開後，每家公司都做了很多偉大的事情，但當他們專注於DNA的各個部分，這是他們的精髓和力量時，他們會繼續盡最大努力。
安迪：最後一個問題，開復，你想留下什麼遺產？
李開復：我希望大家記住我，我在讓複雜技術為每個人所用方面扮演了一個小角色。
安迪·塞爾沃：短小而甜美，但毫無疑問，這背後有很多深度。李開復，中國創新創業公司執行長。非常感謝您抽出時間。
李開復：謝謝。謝謝你邀請我。
