數字革命是否是一場由精英主導的遊戲？普通人特別是貧困人口在數字時代的命運是什麼？演算法是否比人類更加中立、公正和明智？
文/郜曉文
去年，一篇題為《外賣騎手，困在系統裡》的文章在社交媒體刷屏，網際網路企業利用演算法對騎手進行控制和勞動壓榨的問題，引起社會上普遍關注。北京大學社會學系的陳龍博士對此作了專門研究，揭示了平臺的資料算法系統對勞動者無休止地壓迫式索取。
隨著高科技日新月異的發展，數字革命如火如荼。資料追蹤以及在此基礎上的決策機制已經成為商業、行政管理甚至刑事判決慣用的工具。當我們歡呼數字化帶來的便利時，紐約州立大學奧爾巴尼分校政治學副教授弗吉尼亞·尤班克斯（Virginia Eubanks）卻發出追問：數字革命是否是一場由精英主導的遊戲？普通人特別是貧困人口在數字時代的命運是什麼？演算法是否比人類更加中立、公正和明智？
尤班克斯在《自動不平等》（Automating Inequality）一書中，透過生動的故事和深刻的分析，告訴人們一個簡單的道理：技術不能代替正義。
作者認為，標榜高效的自動化系統，並未在實質上改善貧困家庭的處境。恰恰相反，嵌入偏見的高科技工具使政府在做出和民眾生活息息相關的決定時，“名正言順”地擺脫了道德束縛。更令人後怕的是，書中揭露了伴隨資料分析、統計模型與演算法的監管網路，邊緣人群正面臨著更加嚴格的數字追蹤、監控甚至懲罰，被牢牢困在這張網中。
“數字濟貧院”
19世紀，美國政府為緩解貧困問題而建造了濟貧院。尤班克斯認為“現在我們正在建設一所數字濟貧院”——一所無形的“鎖定窮人、管制窮人、甚至懲罰窮人”的機構，一旦窮人求助政府獲取公共援助或尋求其他公共服務，就會被這所看似中立的數字濟貧院“瞄準”。
尤班克斯透過三個深入調查訪問的案例，系統地分析了資料探勘、政策演算法和預測風險模型對美國貧困和工薪階層的影響。
第一個案例是印第安納州試行的福利資格自動認證系統。全系統自動化運營，脆弱不堪的規則和設計不當的操作指標，加上自動決策工具永不出錯的假設，意味著一旦發生錯誤，往往會歸咎到申請人，而不是州政府或承包商。在這套系統下，成千上萬人的福利申請遭到了拒絕，其中包括出生時就是腦癱兒、醫療費用寄希望於政府的小蘇菲。由於當地家庭與社會服務管理局社工的失誤，蘇菲家被直接歸為“未能配合”政府工作，而被拒絕透過福利申請。
第二個案例是洛杉磯為無家可歸者提供服務的電子登記註冊機構。根據其設計者的說法，該市的協調入住系統旨在“將最亟須幫助的群體與最合適的資源相匹配”。然而，大批無家可歸者的個人資訊被錄入資訊管理系統，生成所謂的“弱勢指數”。次貸危機中失去一切流落街頭的加里·伯特萊特，因為“弱勢指數”不夠高，只能在無盡等待中消磨希望，而這些無家可歸者的資訊也成了執法部門可以隨意獲取的資料，他們被當成了“天然的罪犯”。
第三個案例是賓夕法尼亞州阿勒格尼縣的家庭篩查系統，根據一個人以往的行為模式來推測他將來可能採取的行動。在新的預測方式下，人們不僅會受到自己行為的影響，還會受到戀人、室友、親戚和鄰居行為的影響。預測模型和演算法將窮人標記為“風險”和“問題父母”。隨之而來的大量社會服務、執法活動和社群監督，使他們的一舉一動全在監控之下，貧困成了“天然的風險指標”。
“今天，我們基於資料庫、演算法和風險模型造了一個‘數字濟貧院’，它的覆蓋範圍和惡劣影響很有可能超越任何以往的類似機構。”尤班克斯指出，如果不重視演算法中可能隱藏的偏見，不去規制演算法可能產生的風險缺陷，那麼這些致力於解決貧困的技術進步和效率提升，可能只會模糊貧困與犯罪之間的界限，將窮人永遠桎梏在這所“數字濟貧院”。
隨著數字時代來臨，社會網路和資訊科技日漸發達，智慧城市和數字治理成為時尚。在美國社會，演算法科技被用於開展諸多政府專案，包括為無家可歸者提供庇護場所、向生活困難者提供援助，以及兒童福利專案等。自動化系統決定哪些社群可能會被重點管制，哪些家庭能夠獲得救助，哪些群體面臨欺詐調查，美其名曰演算法治理。
決策者們依賴大資料分析本無可厚非，但在演算法的高科技外表下，隱藏著重要的公平正義問題。高科技工具增加了對貧困和工薪階層行為模式和日常選擇的資料收集、儲存和共享，以便政府幹預、審查和監視。然而，這種監視被過多地用於尋找受助者的不法行為，從而導致窮人更易被歸罪，他們的福利被轉移。
《自動不平等》
作者：[美]弗吉尼亞·尤班克斯
譯者：李明倩
出版：商務印書館
出版時間：2021年版
貧困不容否認
《自動不平等》涉及的一個關鍵問題是演算法對社會不同階層，特別是貧困群體的影響。這是人工智慧倫理和演算法治理無可迴避的問題。
演算法應該怎樣對待貧困？尤班克斯認為，這不僅僅是需要改變技術的問題。“對貧困、窮人和工薪階層的看法與態度也需要有更廣泛的轉變。”她在書中列舉了全美各地貧困民眾面臨的幾種主要困難。比如，領取福利救濟時因為一些“無心之失”而成為了福利欺詐的調查物件；無家可歸者艱難地尋求可供容身的庇護住所，以及被迫與子女分離、將孩子送到寄養機構。
社會學家斯坦利·科恩將美國公眾對貧困的態度稱為“文化否認”，是一種使我們得以瞭解殘忍、歧視和壓迫，但從不公開承認其存在的過程。文化否認不是一種個體才有的人身或心理屬性，它是一個由學校、政府、宗教、媒體，以及其他機構組織支援的社會過程。比如，當我們在喧鬧的街頭經過流浪漢或者乞討者身邊時，已經習慣了 “無動於衷”和“視而不見”。因為整個社會文化已將窮人描繪成病態性地依賴社會的少數群體，他們被打上了毫無希望與價值的標籤。公共政策也傾向於指責貧困，而不是糾正貧困造成的負面影響，或消除貧困的根源。
在美國，貧困還是一種可被塑造的政治籌碼。右翼往往譴責窮人是寄生蟲，主張減少資助，左翼則以家長姿態對窮人無力改變自己生活的現狀表示痛心，希望改造窮人。
無論如何，數量龐大、花費高昂的公共服務機構被主要用來調查個人的痛苦際遇是否可能由其自身過錯導致，這使得人們可能即使身處貧困，卻試圖輕描淡寫或予以否認，小心翼翼地求助社會服務專案。這種狹隘的認識使包括精英階層在內的中產階級對窮人的遭遇冷漠以待，那些旨在更加高效為有需要之人提供幫助的新技術，則被早早嵌入了對窮人的偏見和對貧困的否認。
從文化的視角來看，限制人們視野的是將窮人與其他人相區分的敘事方式。尤班克斯在書中呼籲，直視貧困，承認貧困，聆聽窮人的故事，建立理解貧困的同理心，改變我們對貧困的看法、言論和感受，“雖然無法從根本上解決貧困問題，但至少不會令這場正在改變我們生活的數字革命在懲罰窮人的道路上越走越遠”。
美國《獨立宣言》中將自由視為“不可剝奪的權利”，然而，數字濟貧院的存在削弱了貧困和工薪階層行使自主權和進行自治的能力，侵犯了他們行使這些權利的自由。數字濟貧院的複雜性使目標物件感到無能為力，不知所措。很多時候，這些工具只會碾壓一個人的決心，直到他們放棄本應享有的一切：資源、自主權、尊重和尊嚴。
20世紀60年代，馬丁·路德·金博士在華盛頓特區領導了爭取黑人工作機會和自由權的民權運動，號召消除美國以及全世界的貧窮，產生了廣泛的社會影響。但是金死後，窮人運動雖仍在繼續推進，卻沒有取得預期的結果。
數字技術在公共服務和福利制度中的應用，使消除貧困和種族歧視運動面臨新的挑戰。2020年11月，美國掀起的“黑命貴運動”核心在於反對種族歧視，動員不同階層抵制警察暴行。尤班克斯認為，事件最應該引發公眾注意的是採取措施制止司法系統對黑人身體、思想和心靈實施暴力行為，同樣也要監督在公共服務、無家可歸者服務和兒童保護服務中可能出現的暴行和非人性操作。
總之，揭露“數字濟貧院”的殘酷需要巨大的勇氣，窮人運動是美國未竟的偉大征程之一。在數字技術日趨精密和普遍的今天，拆除鎖定窮人、管制窮人、懲罰窮人的“數字濟貧院”，不僅僅需要高科技，更需要文化、政治和個人道德的深刻變革。
圖片來源：視覺中國
圖片編輯：張旭
值班編輯：萬小軍
