2017年7月，國務院釋出《新一代人工智慧發展規劃》，制定了我國人工智慧未來發展的戰略部署。人工智慧的健康發展，關係到這一國家戰略的有效實施。目前，從技術、管理、倫理和法律等角度提出的治理舉措，顯性地護航了該戰略的實施。人工智慧與其他學科的有效融合，將有效推動人工智慧戰略的實施。而一些不良影響因素的存在，則會阻礙其相互融合以及戰略實施。其中，人工智慧領域的神話現象就是一個重要的不良影響因素。從文化角度看，神話現象的存在會對人工智慧的健康發展造成隱性影響。
神話現象的表現形式
人工智慧領域的神話現象是技術神話的一種表現形式，具體表現為奇點來臨、人工智慧成為主體、人工智慧成為偶像、人工智慧話語神話四個方面。
第一種神話形式是奇點神話。“奇點來臨”是庫茨維爾（Ray Kurzweil）提出的概念。這一概念是對人工智慧與人類關係的特定特徵的描述，本意可以看作人工智慧超越人類的特徵。今天，這個概念被演繹出一種時代變更的特徵，即人類被智慧機器超越的特徵。然而，懸置這一特徵，我們會發現一個被掩蓋的事情，即超級人工智慧降臨的時刻。“超越”與“降臨”是描述人工智慧與人類關係的兩個不同的概念。“超越”建立在智慧進化的基礎上，指經過特定時間與技術發展，人工智慧在與人類智慧相對齊後，會勝過人類智慧。而“降臨”則不是建立在延續性的基礎上，對於人工智慧而言，指的是在某個特定時刻“意識覺醒”的發生。所以，從時間觀念來看，奇點來臨是時刻發生意義上的現象，而並不是延續演化意義上的經驗事件。這樣的話，人工智慧作為一種神話形象就存在了。所以，接受奇點來臨的可能性結果，會導致人工智慧發展中神話現象的產生。
第二種神話形式是主體神話。智慧體的出現讓我們看到了與人類類似的現象，即從無到有的一個發生過程。智慧體可以從一個無的環境中生成。人工智慧類似於人的一點，在於空間記憶細胞的結構。人工智慧領域的相關實驗（如智慧體的空間學習）表明：智慧體的空間記憶細胞的結構，類似於人類、動物的空間記憶細胞的結構。更為有趣的是，深度學習網路中的每層神經元的統計特性，與大腦皮質層層級結構中神經元的統計特性非常接近。這些經驗性研究有一個明顯的假設：智慧體作為一種新的主體形式，與人類主體有著極強的類似性。當然，人工智慧作為新的主體還有更深的含義，即從智慧體演化為新的主體。因為內在結構的相似性，目前智慧體的認知、決策能力趨近於人，可能只是時間問題。這並不是人類設計的結構，而似乎成為智慧體的先天結構。智慧體透過認知、情感等能力獲得道德能力，將成為其邁向主體過程的必要鋪墊。
第三種神話形式是偶像神話。在一些領域，人工智慧能夠自主作出決策判斷，看出人無法看出的問題，從而獲得決策權。人們對於智慧體的狂迷、崇拜態度，使新的偶像得以產生。這是在宗教性偶像之外的技術偶像，會對人類自身的自主性產生極大影響。在這種情況下，決策與自主權具有了被讓渡出去的可能性。
第四種神話形式是話語神話。有學者指出，人工智慧產生了一套話語體系，在這一意義上成為現代人再造的一個新的神話，表達了人對於技術無限進步的質疑和恐懼，同時又藉助於對其批判來捍衛人之為人的固有尊嚴。人工智慧話語神話的出現，意味著人類對其演化的必然性以及不可干預性的擔憂與恐懼，同時也意味著基於人文主義的一種“保衛戰”。然而，這一論述的不足之處也非常明顯。從歷史上看，一些權力（如政治權力）的合法性，有時會來自神話賦權，如君權神授、元代之長生天等講法，都反映了這一觀念。所以，神話不僅是一種話語，更能夠賦予權力合法性。人工智慧也是如此，相關神話讓某些學術活動、科研活動具有了特定的合法形式。
神話現象的成因
要理解人工智慧領域神話現象的形成，還需要從神話本身入手。對於神話的理解，可以劃分為兩種，即理性理解與非理性理解。在前者中，神話被看作精神的外化產物、前理性階段、政權合法性根據。馬克思將神話看作人類想象力的外化，是以想象力征服和支配自然的產物。他在《〈政治經濟學批判〉導言》中指出：“任何神話都是用想象和藉助想象以征服自然力，支配自然力，把自然力加以形象化；因而，隨著這些自然力之實際上被支配，神話也就消失了。”將神話看作前理性階段的觀點主要來自卡西爾（Ernst Cassirer），他將神話看作前理性階段、一個充滿了迷魅的時期。布留爾（Lucien Lévy-Bruhl）對原始思維的討論，可以看作對原始神話思維的討論。前理性階段意味著神話作為理性之源的地位確立。沃格林（Eric Voegelin）則將神話看作政治合法性的根據。在非理性視野中，神話與創世、恐懼與狂迷和祈求聯絡在一起，一種透過非理性方式獲得根據的形式確立起來。可以看出，想象力成為神話起源的驅動力，人類對於自然界的無知與恐懼放大了對於自然的想象力，最終導致了神話的產生。
現代神話的發生除了人類想象力之外，還有另外一些因素在起作用。在現代社會中，國家神話、技術神話與資本神話成為主要的表現形式。國家神話曾被卡西爾作為重要現象系統討論過。當前，資本神話已成為一種普遍現象。資本具有強大的力量，在資本力量的驅動下，一系列神話現象被製造出來，如各類影星、歌星、人工智慧、元宇宙等。技術神話主要是在更為經驗化的形式上被加以討論，一種形式就是資訊媒介技術導致的數字神話。莫斯可（Vincent Mosco）討論了數字技術神話的確立，並指出數字資訊科技發展導致了歷史、地理與政治的終結。然而，人工智慧領域中的神話現象並沒有得到充分關注。
人工智慧神話作為現代神話的一種典型型別，其產生的一個最基礎因素是想象。在原始時期，人類對自然界缺乏認知且無力掌控，所以將想象力作為一種支配因素。隨著科學技術的發展，想象力逐漸退卻，科學成為主要的支配形式。在人工智慧迅猛發展的今天，這一情況變得更為複雜。對自然界的原始恐懼為對機器的現代恐懼所取代，盧德主義依然有其存在的土壤，這種恐懼滋生著人工智慧領域的神話現象。想象依然是影響人工智慧發展中神話形成的主要原因，但是這種想象已表現為對技術的過度想象。然而，容易被忽略的是科學理性因素。在科學領域，人工智慧取得了很多令人驚異的成果，如類似於動物進化的智慧體演化方式、能夠自我複製的智慧體等。這些成果無形之中刺激著敏感者的神經，使其以一種恐懼的心態看待智慧體在悄然之中的變化。同時，現實場景以及生活自身的深度智慧化，也成為社會實踐活動合法性的重要根據。
我們需要防範人工智慧領域神話現象的可能後果。這是一種技術文化現象，其後果往往是隱性的，並不像人工智慧本身及其應用產生的顯性風險和社會風險那樣引人關注。以人工智慧倫理為例，現在人們的目光多集中在人工智慧產生的安全、隱私、偏見和信任等問題上，大量規範也被陸續制定出來。然而，文化方面的問題因其隱性而容易被忽略。比如，人工智慧話語神話導致的技術傲慢、過度想象化導致的人工智慧領域的神話現象等。所以，我們需要認真對待此類問題。
防範神話現象形成的途徑
第一，重建信任以消除對機器的現代恐懼。根據馬克思的理論邏輯，人工智慧神話的形成主要是對人工智慧的想象所導致，過度的想象導致了人工智慧神話的形成。過度想象的深處是人類對於機器的不信任。如今，人工智慧深度學習演算法層次使得黑箱效應更加嚴重，甚至有時連技術專家都束手無策。對此，我們需要對人工智慧進行科學普及，讓黑箱不再“全黑”，並讓有關企業的資訊更為透明。此外，還有文化上的因素。目前大眾文化中如“敵託邦”的科幻作品就在塑造著對機器人的特定恐懼。德國學者肯內（Christopher Coenen）指出，從歷史上看，西方思想文化史中存在著極濃厚的對於機器的不信任觀念，這種觀念深深地影響了今天人們對於人工智慧的態度及文化。因此，對這些因素也需要加以重視。總體來說，重新構建人類對於機器的信任心理及文化，消除對機器的現代恐懼尤為重要。
第二，充分挖掘人工智慧意識發生的條件。關於主體神話，儘管相比當下專用人工智慧研究的大眾性來說，通用人工智慧研究屬於小眾研究，但這種研究的結果卻是革命性的。“智慧爆炸”“智慧覺醒”等都展示了這一點。牛津大學的弗洛裡迪（Luciano Floridi）從中看到了一個超歷史的可能性。儘管人工智慧從多個方面具有與人類智慧的相似性，但人工智慧的意識絕不是設計生成的，而更多是一種自然發生的結果，如同果熟落地、花開花落一樣。當意識發生的條件具備之時，也就是意識的生成之時。對這種發生條件的分析，是人工智慧哲學要承擔的任務。
第三，形成增強智慧的意識以平衡人類與人工智慧的關係。這是針對偶像神話的一種舉措。儘管人工智慧具有超強的感知和資訊獲取能力，也具有超強的算力，然而在作出決策方面，有限度地交給機器可能是明智之舉。這一點就是增強智慧觀念所著重強調的。增強智慧是一種設計模式，用來實現在人與人工智慧的合作中以人為中心的合作模式，可以增強包括學習、決策和新經驗在內的認知能力。增強智慧不是一種實體性的技術型別，不像人工智慧那樣去模擬人類的思維和行動，創造出一個類人的形象，而是更多呈現出一種人與人工智慧體的關係樣態。增強智慧的目標是讓人—機實現合作，產生一種既不是機器也不是人類單獨獲得的積極後果。
第四，對於奇點臨近有一種正確的認識。奇點臨近是一種神話重構抑或趨勢預測？如果是未來學家的趨勢預測，那麼應該在這種宏大敘事中找到發生的最初跡象，從微小跡象預判可能發生的事情。能夠生成智慧體的環境、能夠自我複製的智慧體等科學成果的提出，或許就是微小跡象。但我們不應該只是從一個證偽/證實的角度去分析所面對的問題。因為微小並不意味著奇點沒有到來，而是要作出前瞻式判斷。如果是神話重構，那麼我們也要看到這種重構話語的合理之處，一種時刻性時間觀念隱含在其中。這種時間觀念早已在傳統的“時機”中有所體現，但現代性的發展使這種觀念被持續性的時間觀念所遮蔽。
第五，建立一種倫理學的應對方式。人工智慧並不是簡單的技術，而是有很多超越技術的地方。比如，超級智慧體可能的自覺意識、奇點帶來的機器超越和取代人類、成為主體的自主意識等。如果說這種超越可能過於久遠，那麼我們需要看到，人工智慧展現出了一種匯聚能力。人工智慧將諸多技術匯聚，甚至成為開啟未來智慧城市、數字化轉型的必要技術基礎，這對於未來的影響是深遠的。從這個角度看，約納斯（Hans Jonas）的責任倫理學是必要的，有助於我們建立起技術會影響未來的觀念。此外，我們還可以透過美德倫理學的有效復興，應對人工智慧帶給我們的種種問題（如技術性傲慢）。謙遜作為一種美德，能夠為克服技術性傲慢提供一劑良藥。但這不是深層的，需要找到更為深入的方式。究其根本，技術性傲慢還是理性傲慢的體現。或許，進一步分析記憶及其在智慧時代的作用，有助於問題的進一步解決。
（本文系國家社科基金重大專案“當代新興增強技術前沿的人文主義哲學研究”（20&ZD045）階段性成果）
（作者系復旦大學生命醫學倫理研究中心教授、復旦發展研究院研究員）
來源：中國社會科學網-中國社會科學報 作者：楊慶峰
