來源：方圓
（圖片來源：攝圖網）
網約車與計程車哪個更便宜？蘋果手機與非蘋果手機，誰打車更貴？新客戶打車便宜還是老客戶打車便宜？
帶著這樣的疑問，復旦大學教授孫金雲帶領他的學生，一個月時間內在北京、上海等5個城市打車800餘次，花費5萬多元，以不同的手機、不同的距離、不同的時間段進行打車對比後，寫出3萬多字的《打車軟體出行現狀調研報告》。
孫金雲就是要搞清，網約車是否存在“大資料殺熟”的情況：與非蘋果手機使用者相比，蘋果手機更容易叫到舒適型的車輛，但優惠更少、折扣更低，他們稱之為“蘋果稅”，且老客戶比新客戶打車更貴。
調研說明一個問題，平臺的演算法確實有問題。
孫金雲感嘆，大資料、人工智慧演算法的不斷精進，使得網約車平臺可以憑藉大量的客戶資料預測、引導、操縱客戶的行為。在極端情況下，平臺甚至還會使用一定的“技術手段”讓使用者產生錯覺，進而對其產品產生巨大依賴。
2020年下半年，上海市消費者協會曾做過一個試驗：他們使用多個手機終端，模擬不同收入群體消費者使用相同的App，並進行一段時間的虛擬人設操作。
經過測試，他們發現不同手機接收到的廣告有很大差異。其中，模擬較低收入群體的手機，收到的差不多全是低價劣質商品和網貸廣告。
業內專業人士表示，隨著科技的發展，大資料、人工智慧的發展和關聯愈加緊密，已深刻影響著社會生活。大資料技術依靠不斷採集、沉澱、分類等手段積累海量資料；人工智慧則依靠大資料的支援和採集，運用人工設定的特定效能和運算方式，實現人的某種意圖。
大資料技術把海量資料的集合起來，人工智慧則是對這些海量資料的智慧化處理和應用。從根本上說，人工智慧離不開大資料，它依賴大資料平臺和技術，幫助自已完成深度學習進化。
如果把人工智慧看成一個嗷嗷待哺擁有無限潛力的嬰兒，而某一領域專業的、海量的、深度的資料就是餵養這個天才嬰兒的奶粉。奶粉的數量決定了天才嬰兒是否能長大，而奶粉的質量則決定了天才嬰兒後續的智力發育水平。
作為新一輪科技革命和產業變革的重要驅動力量，大資料、人工智慧可以說是一把“雙刃劍”，用好了，它們是推動社會進步和產業發展的重要力量；用不好，它們也可能帶來隱私洩露等各種倫理風險。
如何在大資料、人工智慧應用中兼顧隱私保護，確保安全、可靠、可控，是一項亟須關注的課題。
1
資料產權，我的資訊被打包出售了
網約車存在的“大資料殺熟”只是一個側面。幾乎每個人都經歷過這樣的情景：剛剛在購物網站上搜索了一下某件商品，網站首頁、微信朋友圈就會滿屏都是與此有關的廣告；出門旅遊，剛進高速收費站，“歡迎你到××地”的簡訊，就叮一聲傳送過來；你剛想給孩子報個英語口語班，搜尋了一下相關資訊，推銷電話分分鐘把你的手機打到爆……
還有，短影片軟體上抖音上推送的都是你愛看的；購物網站頁面出現的都是你買得起的；送餐軟體上展示的是你最愛吃的。難怪有人說，現如今，最瞭解你的人不是你的父母和親人，也不是你自己，而是大資料。
利益驅使下，一些網企或平臺用微小的便利換取使用者個人資訊，進而分析、利用，並在使用者不知情的情況下，將大量資料匯聚，分析得出使用者的特徵，預測、引導他們的消費決定，甚至將使用者資料當作商品上架售賣。
最近，某二手車查詢平臺CEO及多名高管就因涉嫌售賣使用者資訊被帶走。有人發現，該平臺主要提供相關交易車輛的查詢服務，查詢一次10元到40元不等，只要肯花錢，某輛車在4S店的所有維修記錄、車主情況、車輛使用狀況等隱私資訊，平臺都可以打包出售給你。
今年7月，國內知名網企“滴滴出行”就因玩得過火攤上了事情。“滴滴出行”APP因在經營中存在嚴重違法違規收集使用個人資訊問題，被國家網信辦通知應用商店強制下架。
隨後，國家網信辦即會同公安部、國家安全部、自然資源部、交通運輸部、稅務總局、市場監管總局等七部門，聯合進駐滴滴出行科技有限公司開展網路安全審查。這樣的行動對國內大型網企來說尚屬首家。
一個時期以來，網路平臺不斷曝出洩露使用者資料、侵犯使用者隱私、非法收集、利用使用者資料等事件，引起人們對個人資料安全性和個人資料價值的警醒。
今年全國兩會上，全國政協委員、北京天達共和律師事務所主任李大進就呼籲加強資料產權立法。在李大進看來，資料作為新型生產要素，在社會經濟生活中的重要性日益顯著。
個人、企業或其他組織合法擁有或者控制的資料，可以為其帶來可預期的經濟利益，具備作為資產的基本要素，應該對資料產權進行立法。
一些專業人士也指出，資料被一些平臺濫用，涉及到每個人的隱私，如身份證號碼、手機號碼、銀行卡密碼、家庭住址等。人們之所以經常收到很多騷擾、詐騙、推銷電話，只能說明自已的資料被洩露了。
資料是有價值的。那麼，涉及個人資訊的資料其所有權到底歸誰？人民日報海外版文章《我的資訊應該我做主》指出，在大資料時代，誰掌握了資料，誰就掌握了主動權。“資料獲取要有界限，個人資訊保護刻不容緩。對App要嚴格監管，我的資訊我做主。”
持相同看法的不只是這篇文章，還有很大的群體。普遍認為，涉及個人的基本資訊和行為資訊，應屬於資料本人的固有資產，第三方只有合法使用的權利，而無權侵佔個人資料甚至將個人資料用於非法用途。
遺憾的是，一些網企或平臺並沒有這種意識，他們一如既往肆意獲取使用者資料，把使用者資料的價值佔為己有。甚至國內有的學者也認為，“將資料產權劃分給蒐集資料的企業會更有效率”，加上一段時間以來法律相對滯後等原因，使得資料產權的歸屬一直模糊不清，存在爭議。
現在，越來越多的人認為個人資料的擁有權及使用權都應該掌握在自己手上，而不應該歸平臺所有。
專家指出，人工智慧最核心的就是資料，只有不斷的注入新的資料才能把機器訓練得越來越聰明。現在，資料不僅值錢，更是一個金礦，只有我們掌握了自己的資料，才能讓資料被正確的使用。
如果APP需要資料，就應該花錢購買。同時，在資料交易中，還必須保護我們的資料不會洩露。如果我們個人的資料被洩露或出賣，甚至造成很大的財產損失及人身安全，應參照歐州的做法，嚴厲懲罰平臺，讓相關網企承擔應有的法律責任。
2
資料採集，授權書上讓人一鍵勾選
人工智慧的基礎是大資料，大資料的基礎又是資料採集。無論人工智慧還是大資料，前期海量的資料採集，是基礎的基礎。
專業人員表示，資料採集一般有四種做法：一是從內部獲取。平臺已經有的資訊，是獲取資料首先考慮的做法。二是從政府及非營利組織獲取。每一個政府機構都會收集資料。海量的資料一般就在電腦、電話或公共圖書館裡。三是從商業渠道獲取。許多資料往往從內部、政府機構，或非營利組織是得不到的，平臺只能從商業渠道購買。四是自主獲取。一些網路平臺需要某些資料，但無法從其他渠道獲取。這時候他們就自主開展一些調查，透過問卷方式獲取他們想要的資料。或者，有的網企和平臺安裝感測器或派人觀察，以此獲取資料。
專家指出，除了傳統的做法，現在很多網企或平臺獲取資料的方法幾乎都用到一個手段——“一鍵勾選”。假如你要使用某個網企或平臺的某項服務，你必須在它事前擬好的同意書上一鍵勾選。
網企或平臺透過這個技術，只要使用者一鍵勾選同意授權下載某個軟體，平臺就會知道使用者開啟過什麼網頁、看了多久、操作到什麼程度等等。然後，網路後臺就能結合使用者的基礎資訊，匹配使用者的社交圈、消費習慣等，進而形成“使用者畫像”，並可以隨便利用使用者在社交網上的各種資料，配合使用者在網上的瀏覽資訊建立模型，用模型運算預測下一步使用者可能發生的網上行為，甚至還能夠洞悉使用者的性格、得出使用者的三觀、偏好等等，想想，挺恐怖的。
黃女士是某讀書軟體的一名忠實使用者。某天，她開啟軟體照常看書。突然發現，軟體裡可以查到好友的閱讀記錄，而且能夠相互檢視對方的書架、閱讀的書目、讀書想法等資訊，而她與好友之間並沒有互相關注。
黃女士感到有點緊張：一個人讀什麼書，一般會關聯這個人的生活及思想行為等諸多隱私，甚至能大致判斷出這是一個什麼樣的人。
一位患有某方面隱疾的使用者，她很可能會在讀書軟體上閱讀相關的醫療書籍，而她並不一定願意讓朋友和家人知道她患上了某種疾病；一位正在備孕的女士，她很可能會閱讀孕期健康類的書籍，但她也許暫時還不希望別人知道此事。讀書軟體卻會將她不想讓大家知道的事情，全部曝曬出來。
“仔細一想，挺可怕的。”黃女士覺得該讀書軟體侵犯了她的隱私，一紙訴狀將開發該讀書軟體的公司告上了法庭。
與此相似的還有今年“3·15”晚會央視曝光的一個事實：包括某衛浴公司、某汽車製造商等在內的20多家知名企業，在店面擅自安裝人臉識別攝像頭，非法採集和濫用人臉資訊，並透過人臉洞察人們的年齡、身份甚至情緒、消費習慣等，對消費者行為進行評級。網友驚呼：我的臉被“偷”了，而我對此一無所知。
科技的普及，人們似乎習慣了向各個網路平臺以及各類繁雜的App妥協，密密麻麻的使用者授權書大同小異。如果使用者想獲得某一方面的服務，就不得不被迫全部授權。那些讀起來拗口晦澀的條款無非強調一點：你不同意，就不能使用相應的服務。
此時，所謂的隱私保護就成了讓使用者不得不同意的“軟刀子”，久而久之，人們就習慣了各種“一鍵勾選”，也懶得再去細讀、核實有關權益條款。事實上，對於客戶，你就算細讀也沒有用，你不勾選，就用不了它的服務。
幾年前，使用者朱女士曾將某網路公司告上法庭，原因是她在某網路公司搜尋引擎上搜索相關關鍵詞後，一個特定的網站上出現與關鍵詞有關的廣告。朱女士認為，該搜尋引擎公司利用網路技術，在未經其知情和選擇的情況下，記錄和跟蹤了其搜尋的關鍵詞，將其興趣愛好、生活學習、工作特點等均顯露在了相關網站上，並利用記錄的關鍵詞對其瀏覽的網頁進行廣告投放，侵害了自己的隱私權。
一審法院判決朱女士勝訴，認為某網路公司收集朱女士資訊，並在其不知情和不願意的情形下進行商業利用，侵犯了她的隱私權。但二審法院撤銷了一審判決，認為該網路公司的個性化推薦行為不構成侵犯朱女士的隱私權，判決駁回原告全部訴訟請求。
對此，中國律師協會智慧財產權委員會主任、北京高文律師事務所主任王正志表示，這是我國cookie技術與隱私權糾紛比較典型的案件，一審與二審地判決截然不同。
一審法院認為，使用者的搜尋活動為個人隱私，而二審法院認為，搜尋記錄等不屬於個人資訊，“由此看來，徹底解決未來數字經濟難題，法律對資料的權利必須做出明確的規定”。
3
AI演算法設計，必須考慮道德倫理
大資料、人工智慧帶給人們的，不僅僅是自動駕駛汽車、工業機器人和教育、醫療、傳媒、金融、法律、科學發現的現代化，也可能是關乎人類的倫理問題，比如安全、隱私、道德等等。
江蘇省倫理學會執行會長楊明對此認為，大資料、人工智慧存在隱私洩露的風險。各類資料採集無時不有、無處不在，個人隱私極易以資料的形式被儲存、複製、傳播。
特別是隨是越來越多人工智慧產品的出現，有些網企會輕易獲取更多個人隱私資料資訊。如果這些資料得不到合理管控，人類將被置於隱私“裸奔”的尷尬境地，從而產生嚴重的倫理風險。
淮北師範大學資訊學院王丹、教育學院張家年也認為，大資料、人工智慧已經展現出巨大的變革力量，必須考慮大資料、人工智慧背後的倫理規範，處理好機器與人的關係，讓技術更好地造福人類。
“比如，要進行合乎道德倫理的演算法設計，將國家的法律規範和人的道德情感規則嵌入人工智慧系統設計。透過符合倫理的系統設計方法，制定符合法律規範和道德情感的規則，將制定的規範和價值植入人工智慧系統，並透過使用者、設計者和組織者對嵌入人工智慧系統的規範和價值進行評估，判斷嵌入價值與社會價值的一致性和相符性。”王丹說。
“同時，要建立大資料、人工智慧群體倫理決策框架，加強內部演算法監管，規範人工智慧研發過程。”張家年認為，考慮到人工智慧專注於單一的結構化的領域，對於跨領域複雜環境的倫理決策涉及較少，建立一個跨領域的人工智慧群體倫理決策框架，對倫理道德進行多維度考量、協同式綜合運算得出最優解決方式”。
專家學者的盼望和國家部門的考慮不謀而合。今年7月26日，市場監管總局、國家網信辦、國家發改委、公安部、人社部、商務部、中華全國總工會聯合印發了《關於落實網路餐飲平臺責任切實維護外賣送餐員權益的指導意見》，明確對保障外賣送餐員正當權益提出全方位要求。
其中提到，不得將“最嚴演算法”作為考核要求，要透過“演算法取中”等方式，合理確定訂單數量、準時率、線上率等考核要素，適當放寬配送時限等。這是國家層面對平臺演算法進行監管、規範的有力例證。
而對於演算法設計與倫理道德之間關係，一些專家和研究人員也提出不少建議。北京智源人工智慧研究院倫理與安全研究中心主任、中國科學院自動化研究所研究員曾毅認為，無論是企業、科研機構還是政府，在指導人工智慧發展的時候，應建立不同層級的人工智慧倫理和治理委員會，還要建立人工智慧服務和產品的監管平臺，“一旦出了問題，有關部門不僅要及時約談，還要透過監管平臺發現網路企業的知情同意書是不是有違反國家法律的條文，這樣就可以在產生社會負面影響之前，規避掉存在的風險”。
王丹表示，人工智慧是人類智慧的產物，參與和設計人員的道德底線會影響演算法的公平與工作，因此應制定人工智慧研發人員必須遵守的倫理工作標準，解決好人工智慧的安全責任問題。
“可以設立大資料、人工智慧事前監督和事後評估制度，制定產業研發人員倫理工作標準，強化專業責任意識。對於具有危險性的人工智慧產品，設計時要聘請領域專家對演算法進行稽核，投入使用後要評估應用過程中存在的問題，以研究解決的對策，最佳化人工智慧效能。”
同時，一些專業人員認為，還應建立健全對隱私權的法律規範體系，切實保護人工智慧使用者的隱私。要透過設立隱私保護資料庫，在人工智慧資料運用的過程中，系統自行判斷對隱私資料的存取是否必要、是否合法。要使用區塊鏈技術保障資料的真實性、可靠性與不可修改性，提高演算法預測的準確性。
令人高興的是，最近一年，國家層面不斷加大對個人資訊及資料安全的保護工作。
2021年4月26日，備受關注的個人資訊保護法（草案）已第二次提請全國人大常委會審議。據悉，這部法律草案明確規定，個人對其個人資訊的處理享有知情權、決定權；個人有權限制或者拒絕他人對其個人資訊進行處理；違反該法規定處理個人資訊的，由履行個人資訊保護職責的部門責令改正，沒收違法所得；對侵害眾多個人的權益的，人民檢察院、履行個人資訊保護職責的部門和國家網信部門確定的組織可以依法向人民法院提起訴訟。
2021年6月10日，全國人大常委會審議通過了《資料安全法》。這部新透過的法律從資料安全與發展、資料安全制度、資料安全保護義務、政務資料安全與開放、法律責任等多方面，對資料處理活動，保障資料安全，保護個人、組織的合法權益等作出明確規範。
2021年7月28日，又有兩條訊息傳來。一條是，科技部當天釋出了《關於加強科技倫理治理的指導意見》（徵求意見稿），向社會公開徵求意見，旨在加大科技倫理治理力度，推動科技向善。另一條是，最高法也於當天釋出了人臉識別應用規範司法解釋，明確強調，應用程式不得強制索取非必要個人資訊。
最高法表示，人臉資訊屬於敏感個人資訊，處理活動對個人權益影響重大。因此，在告知同意上，有必要設定較高標準，以確保個人在充分知情的前提下，合理考慮對自己權益的後果而作出同意。
最高法還規定，對於在賓館、商場、銀行、車站、機場、體育場館、娛樂場所等經營場所、公共場所違反法律、行政法規的規定使用人臉識別技術進行人臉驗證、辨識或者分析，應當認定屬於侵害自然人人格權益的行為。
專家表示，近期一系列法律法規的出臺，對進一步提高全社會的資料安全保護意識和水平，推動有關部門、行業組織、科研機構、企業、個人等共同參與資料安全保護工作，形成全社會共同維護資料安全的良好環境具有重要作用。同時，也為相關部門依法查辦處理涉及資料安全的案件提供了明確的法律依據。（魏敏對本文有貢獻）
本文為《方圓》雜誌原創稿件，轉載時請在醒目位置標明作者，並註明來源：方圓（ID:fangyuanmagazine）。
