來源 ｜ 思廬哲學
（2017年6月為玉河夜話“人工智慧”研討會準備的發言稿）
我們年輕時候讀歐洲思想史、觀念史，讀到巴黎的沙龍文化，歐洲各國的沙龍，好生羨慕，人家文化發達，都說跟這些沙龍有關。後來，我們自己也試著辦沙龍，可一群五大三粗的男人，怎麼辦都像吵架會，不像沙龍。翁菱女士風雅寬容，她主辦的玉河夜話是名副其實的沙龍。
今天的主題是人工智慧。這個題目，我沒做過研究，但翁菱指定我發言，我就說說我的零零星星的思考，拋磚引玉吧。
最近這些年，最火熱的技術好像是兩種：生物工程技術和人工智慧技術。這兩大門類的技術都很了得，不僅將大規模改變世界的面貌，而且將改變人自身。我常說，這是兩面夾擊，人工智慧要把機器變得越來越像人，生物工程要把人變得越來越像機器。
生物工程技術和人工智慧技術，兩廂相比，我估計，生物工程技術帶來的變化會更根本。據說，生物工程技術不用多久就能夠讓人長生不老。在很多人看來，長生不老是所有願望裡最大的願望——無論什麼願望，都得人活著才能實現。
但推開一步想，人終有一死，才會去努力實現願望，真若永無死日，那還急什麼？今天、明天或任何一天，所有的日子都一樣。人想多活幾天，人有這個願望大概是事實。
不過，長壽作為一種可欲的東西，在各種文化裡地位不同，好像在咱們中國擺的位置最高，在古希臘，極流行的觀念是人過完了青壯年就該去死了。我其實挺懷疑人是不是真的都願意長生不老。看著一群活蹦亂跳的孩子，大家都開心，看著年輕人旺盛生長，大家都開心，我們老年人要是都不讓出地方，孩子和青年往哪兒長呢？
不過，今天的主題是人工智慧，還是回到這個題目上來。我們街上的老百姓，說到人工智慧，首先想到的大概是科幻電影裡的電腦人。電腦真能變成人嗎？
人工智慧進步飛快，在很多特定方面已遠遠強於人類。但我以為，電腦不會成為人。人工智慧跟人的智慧有根本的區別。人類智慧是有機體的智慧，所以，人類智慧連著意識，連著慾望和感覺等等。
我們需要有智慧才能製做衣裳，才能生火，而這智慧是跟感知連在一起的。我們知冷知熱，感知到降溫了，於是要新增衣服或生火。我們之所以感知到降溫了，那因為我們是恆溫動物。溫度計可以測量溫度，但它不感知冷熱。
我們感知這個世界，因為我們是有機體，有血有肉，有各種各樣的慾望。所謂智慧，並不只在腦力裡，智慧體現在手和腳上，體現在人的方方面面，比如，體現在說話的聲調裡。
總之，計算能力這種“智慧”跟人類智慧不是一回事。人的智慧跟感知連在一起，感知跟慾望連在一起，慾望跟血肉連在一起。智慧在人身上很突出，但它仍然是人這個有機體的一個方面。
所以，我倒不像有些人那樣擔心電腦人有朝一日會統治人類。他們說，人工智慧的威脅與原子彈的威脅不同類，原子彈的危險是毀滅人類，電腦人的危險是另一種，它們將超過人類，成為一個“更高”的群體，成為人類的統治者。
可機器為什麼要控制人類呢？人要控制別人，因為他要利用別人，人對人工智慧毫無用處，他幹嗎要控制人類呢？人要控制別人，因為他害怕，人工智慧沒有fear，他幹嗎要控制人類呢？電腦人控制人類，那只是科幻電影的遐想。
但機器人能不能發展出感覺、慾望、感情呢？就說自保這種慾望吧。就我們人類之為動物而言，自保是一種基本的慾望，有了這種慾望，就會生出其他多種多樣的慾望，例如，口渴了要喝水，肚子餓了要吃飯，受到侵害要奮起反抗。
也許，有朝一日，我們會為電腦也設定自保的程式。有了這個基本的程式，它也許會自己生成其他程式，電池缺電了它就設法充電，受到侵害就奮起反抗，等等。這的確是可能的。但我們仍然不可能為電腦設定總體的自保程式。
或這麼說，總體上的自保根本不是設定出來的，對有機體來說，自保是構成性的，是有機體的定義的一部分，不需要設定。而對電腦來說就不是這樣，自保不是它的一部分，所謂給電腦設定自保的程式，指的本來就是設定一系列缺電了就設法充電之類的程式。
我們也許可以承認，按照我們今天所理解的慾望，電腦人不會產生這樣的東西。那我們能不能重新定義慾望？我們不可能單單重新定義慾望，為此，我們需要重新定義感知、感情、理解、理想、精神，一句話，我們需要重新定義人。
我並不是在主張有一種亙古不變的人性。今人的人性不是一萬年前智人的人性。在那時的智人看來，今人的人性已經面目全非。不過，人性的改變和技術造就的改變不是同種型別的改變——人性的改變不是設計出來的。（歷史上不止一次有政治家和思想家企圖透過設計來改變人性，但他們無一例外都失敗了。）
簡單說，人性的改變坐落在人性的連續性之中，這樣的改變我們稱作生長。對這種連續性的變化，調整定義是有意義的，但對人工智慧，幹嘛非要用它來重新定義人呢？
我不怎麼擔心電腦會變成人，變成一種超級人類，然後來統治人。但我倒相信，人工智慧技術會大規模地改變現有的人類，最後變得面目皆非。
技術當然不是今天才有的。不過，今天的技術不同於以往的技術。粗略說來，人類技術經歷了三個大階段。最初，技術是工匠們琢磨出來的。後來，十八、十九世紀以來，技術是科學技術——現代技術不再是匠人摸索出來的，而是基於科學原理髮明出來的。工業革命依賴的是這樣的技術。
人工智慧代表的是第三波技術發展。這一波與前兩波的主要區別在於它做的是“腦力勞動”。人的能力可以粗分為體力和腦力。工業革命引入了一系列新能源、新機器，它們把很多體力勞動接過去了。人工智慧將把很多腦力勞動接過去。
人們預料，人工智慧將比工業革命給社會帶來更劇烈的改變。因為體力本來就不是人的特長，腦力才是，柏拉圖在《普羅泰戈拉篇》裡就說過，人沒有翅膀四足尖牙，勝過動物的只在於才智。要是腦力也用不著人了，人還能幹什麼呢？
腦力和體力的區分有時有點兒誤導。剛才我說，智慧並不只在腦力裡，我們一投手一投足，動手動腳，都體現智慧。這意味著，所謂腦力勞動不只是腦子的勞動，人類的一切活動，都有腦力在內。結果，人工智慧有可能把幾乎所有勞動都接過去。
人類發明各種技術，本來就因為技術可以代替人類勞動。但也有人擔心，人工智慧技術只有少數精英能夠掌握，大多數人參與不到其中。一方面，他們的勞動將越來越“不值錢”。另一方面，他們的生活將越來越依賴於少數精英的發明。社會結構因此會發生巨大變化，只有少數人是有用的，大多數人變成了“無用階級”。
我們也許覺得這是杞人憂天，不勞動了，還可以玩嘛。我們可以把世上的事情分成我愛乾的和我不愛乾的，有了電腦人，我們就可以把我們不愛乾的事情派他去幹，然後把時間省下來做我們愛乾的那些事，比如說打球、聽音樂會、談戀愛。談戀愛我就不派電腦人去，這麼好的事派它去幹嗎啊？
我們是可以區分哪些事是我們不得不做，哪些事是我們樂意做的，但是這種區分挺有限的。比如說帶孩子，換尿布不愛幹，逗孩子笑愛幹。但你不給孩子換尿布，逗孩子玩就沒那麼樂。
好玩的事情怎麼跟有點兒苦有點兒累的事情連在一起，我們弄不大清楚，但我們大致知道，你為孩子付出了很多辛苦，你跟他的相處就會有一些不同的品質。等到把不愛乾的事情都交給機器人以後，剩下的愛乾的事情的性質也會改變，你作為一個人的品質總體上也會改變。
我們勞作得很辛苦，難免有時會希望別人做這些工作我們來享受勞動成果。不過，如伯納德·威廉斯指出的，人並不是只要享受的生物，我們不僅希望獲得結果，我們也希望這些結果是親力親為的結果。馬克思認為，勞動創造了人，勞動是人的基本需求。勞動與享受割裂開來，勞動由機器完成，人單單享受結果，人的定義就改變了。
我們實際上正在經歷這個過程。我們對世界的感知越來越集中到結果這一端。我們住在樓房裡，不知道樓房是怎樣蓋起來的，開啟餐盒，裡面是大米飯，但我們沒見過水稻長在地裡是什麼樣子的。我們透過各種螢幕看到海底世界、太空、非洲的動物，世界各地的騷亂，但沒有哪樣事情是我們親歷的，沒有哪樣東西是我們親力親為的結果。
不斷進步的技術把人類勞動一項一項接過去了，我們不必經歷勞動的艱辛就能夠享受勞動的成果，這讓技術樂觀主義者歡欣鼓舞——技術把苦活累活難活都幹了，我們享受成果，有何不好？但事情還有另一面，那就是，我們只享受結果，不再能感知產生結果的過程。僅僅感受結果是薄瘠的感受，而我們的感受正在變得越來越薄。
現在哲學界討論人類智慧和人工智慧的區別，很大一部分集中在人具有意識這一點上，而所謂意識，被說成是主觀體驗，是跟什麼東西都不相連的qualia。人不再是慾望、勞作和結果之間的聯絡，人變成VR遊戲室裡一堆主觀體驗，當然，人的定義就變掉了。
人工智慧發展起來，不僅社會結構會發生很大變化，人自身也會發生很大變化。技術不只是我們可加以利用的東西，技術改變我們自身。有一些改變是明顯的。我們習慣了GPS定位，我們的方位感就可能退化。
等我們習慣了讓電子裝置來採集關於自己身體的資料，我們對自己身體的感知很可能變得越來越遲鈍。技術改變我們與世界相處的方式，隨著與世界相處方式的改變，我們自己也在改變。
我不認為人工智慧會演變為一種新人類，但人工智慧倒是很可能把人變成新人類。
技術進步會改善人類生活，同時使未來面對更大風險。可我說的好像都是風險那一面。這並不奇怪。有人把知識人的任務設想為指導社會發展。我倒覺得，知識人從來沒有成功地指導過社會的發展。社會自行發展。
知識人的任務與其說是指導社會，毋寧說在於指出這個發展過程中的危險。是啊，社會自行發展，這可不一定是朝著良好的方向發展。
海德格爾就是這樣看的，他說，技術是這個時代的存在天命，技術發展，你喜歡也罷不喜歡也罷，技術仍將征服世界。是啊，人能夠控制其他人，控制異端思想，唯獨控制不了技術的發展。如果有一天，人類只享受結果，產生的結果的過程都交給人工智慧去施行了，真到了心想事成那一天，那麼我們就不得不說，技術主宰了人。
藉助技術，我們把過程和結果分離開來，我們只要得到結果就好了。這一點，在人工智慧那裡最為突出。
去年，AlphaGo戰勝了李世石。有意思的不是人工智慧贏了——這只是早晚的事兒。我覺得最有意思的是，AlphaGo的設計者並不知道它是靠什麼理路贏下來的。我跟圍棋高手下棋，不論他多高，我們兩個都是在用同樣的“圍棋語言”思考。
而AlphaGo依靠的根本不是我們的思維方式，而是一種我們無法理解的思維方式——如果還叫它思維的話。
人們從各個角度思考人工智慧，怎麼提高人工智慧的水平，人工智慧會怎樣改變我們的社會，改變我們自己，等等。我自己的興趣則在另外一個方面。我更關心的是我們已有的東西，想要更恰當地理解我們已有的東西。比如，透過對人工智慧的瞭解，更恰當地理解人類自己的智慧。
按現在流行的看法，人工智慧的發展讓我們看到，智慧的本質是計算。我的看法正相反，透過圍棋程式的發展，我們能夠看得更加清楚，人類智慧的本質並不是計算，而是對話，是互相理解。下棋是一種對話——圍棋也叫“手談”。
實際上，人的所有智慧都是一種對話，哪怕我是一個人在思考。我獨自證明了費馬大定理，最後一刻我說，我明白了；我明白了什麼？我看到了過程與結論之間的聯絡。
因此，我明白了，我也可以讓別人明白。然而，我們並不知道在AlphaGo那裡，過程和結論之間是個什麼聯絡。在我看，這才是人類智慧和人工智慧的本質區別。
來源：《走出唯一真理觀》
作者：陳嘉映
採編：艾若
排版：南山
稽核：永方
美工/VI：小周
