楊淨 夢晨 發自 凹非寺
量子位 報道 | 公眾號 QbitAI
如何防止果照外洩？
自己先上傳到網上就OK。
沒錯，這就是扎克伯格旗下Meta給出的最新解決方案。
技術角度出發，但細想又總覺得哪裡不對……
結果這就直接讓中外網友炸了鍋，還有媒體標題直接是醬嬸的~
Facebook再次讓人上傳果照。
還有網友調侃，這怕是空手套白狼啊~
所以這究竟是怎麼一回事。
此上傳非彼上傳
Meta官宣的這項工具，專門是針對報復性私密內容的傳播。
具體來說，如果你擔心自己的果照或不雅影片被人po到網上，那就先自己提前上傳到工具上。
這樣別人想發到網上（Facebook或Instagram）時，影象就會被稽核違規作刪除處理。
這時工具會用演算法匹配一個獨特的“數字指紋”。
數字指紋，類似一種條形碼，技術上來講叫做雜湊值，或者雜湊值，有把資料拆散後重新排列之意。
隨後，Meta就拿著雜湊值與Facebook或Instagram上傳的影象進行匹配。
如果匹配成功，影象將會被刪除。甚至有人試圖上傳一張匹配的圖片，工具也將會審查是否違反了其政策，採取相應的行動。
官方強調，原始影象or影片仍然儲存在本地，他們只是提取了雜湊值，用於與科技公司共享。
據介紹，照片使用的雜湊生成演算法是PDQ，影片使用的的是MD5，均為該類應用程式的行業標準。
其中，PDQ是Facebook 2019年開源、受pHash啟發的相似圖片識別演算法。
MD5則是一種廣泛使用的雜湊函式，全稱叫做MD5資訊摘要演算法，可以產生128位/ 16位元組雜湊值。
對於使用者端來說，不需要提供包括電子郵件在內的其他資訊，只需要記住密碼和專案的號碼，以備在這之後編輯專案的狀態，比如撤銷。
不過這項技術有個很明顯的bug——只能精準匹配。
換句話說，如果照片被p過、裁剪過，影片被剪輯過，就可能識別不了了。這時候就需要重建一個雜湊值。
事實上，類似的技術已經被諸多科技企業廣泛使用，用來檢測已知的違規內容。
最具代表性的、也是最早提供相關技術的，當屬2009年微軟宣佈的PhotoDNA技術，由微軟與達特茅斯學院Hany Farid教授共同研發，以識別刪除網路上流傳的兒童受害的照片。
隨後，微軟向國家失蹤與受虐兒童中心 (NCMEC) 捐贈了該技術，並陸續向更多企業免費開放。
早期PhotoDNA必須在本地部署，但2015年，微軟提供了基於雲的PhotoDNA服務。
隨後在谷歌、Facebook、Reddit、Twitter上也都看到了相關的產品。今年8月，蘋果甚至直接從源頭做起——掃描使用者的iPhone來獲取兒童受害影象。
網友：直接禁止所有色情內容可好？
這次的工具由Meta聯合英國色情報復熱線（Revenge Porn Helpline）合作推出，為18歲以上的成年人而生。
色情報復，主要指分手後心懷不滿的ex把對方果照傳到網上的那種。
早在2017年，還未改名的Facebook公司就推出過類似的工具，並在澳大利亞展開試點運營。
據當時的統計，大約4%的美國網民是色情報復的受害者。只算30歲以下女性的話，每十人就有一人曾遭受色情報復。
據英國衛報報道，試點專案的流程是使用者上傳自己的果照，由“受過專門訓練的代表”檢視並提取照片的數字指紋。
之後原始影象會刪除，只保留數字指紋，用於防止同一張果照在刪除後再次被人上傳。
可以說開發這個工具的初衷是好的，也收到了一些公益組織、律師以及最早參與PhotoDNA技術開發的科學家Hany Farid的認同。
不過上傳果照到Facebook的伺服器，並由技術人員手動處理這兩個環節，讓使用者很不買賬。
如何保證技術人員不會濫用職權？又如何保證儲存果照的伺服器不被駭客攻擊？
以及，為什麼要這麼麻煩呢？直接用影象識別技術不是更方便嗎？
這都是當時大家最關心的問題。
這些對應在受害者身上，主要產生兩種擔心：一是害怕報復，所以不願自己上傳那些內容；二是不知道哪些內容已經分享。
兩年之後，Facebook推出了一款AI工具，可以主動檢測在社交網路上分享的果照，並允許快速刪除，還配備一名專門訓練的成員來審查內容。
這樣就保證了可以在其他人報告之前就已經處理這些照片。
而在原有工具的基礎上，Facebook的新工具讓使用者不用上傳內容，在本地完成就可以提取數字指紋的步驟，由獨立的慈善組織StopNCII.org運營。
這一次，大家反應如何？
在Facebook頻頻曝出隱私安全問題、使用者資料大規模洩露等事件之後，許多人還是不信任他們。
而且這種不信任的情緒針對扎克伯格本人。
不過也有人認為這個主意是好的，但具體能起到什麼效果還要再觀察。
一些批評者思考的角度是：
只需要稍微P圖就能繞過的防護措施太脆弱了，就像是一個不投資更多人力稽核的廉價藉口。
最後還有一個靈魂發問：
直接禁止所有色情內容可好？
端到端加密宣佈推遲
Meta旗下產品，尤其是社交應用Facebook，在使用者隱私安全問題上頻頻出現大問題。
最著名的是“FB資料門”，8700萬Facebook使用者資料被不當洩露給英國劍橋分析公司，被用於操縱2016年美國大選和英國脫歐等政治議題。
今年與Meta公司相關的更是有“260萬Instagram、Tiktok使用者資料洩露”，“Facebook超5億使用者個人資料被洩露”、“38億條Clubhouse、Facebook使用者資料在暗網出售”等讓人逐漸麻木。
自劍橋分析事件曝光後，扎克伯格於2019年宣佈正在努力把端到端加密技術用到旗下所有服務。
端到端加密意味著只有傳送方和接收方能解密並檢視資訊，在傳輸過程中都是加密狀態，其他人無法檢視。
目前Meta旗下只有WhatsApp一款應用聲稱已經實現端到端加密。
不過就這今年還被打臉了。
9月初，一份來自ProPublica的調查報道顯示，WhatsApp在奧斯汀、德克薩斯、都柏林和新加坡僱傭了1000多名員工，專門負責檢查“數百萬私人訊息、圖片和影片”。
雖然這與他們提交給美國證券交易委員會的說法不一致，不過美國證交會當時沒有對此採取行動。
一週後，WhatsApp終於宣佈允許使用者把雲端備份聊天記錄加密，在這之前使用者只能用未加密格式把聊天記錄上傳到蘋果iCloud或安卓的Google Drive。
今年早些時候，扎克伯格曾暗示會在2022年實現全產品端到端加密。不過這一計劃最近又宣佈推遲到2023年。
Meta全球安全主管Antigone Davis表示：
推遲的決定是為了確保端到端加密的同時，還保留向執法部門提供資訊以協助兒童安全調查的能力。
參考連結：
[1]https://stopncii.org/faq/
[2]https://about.fb.com/news/2021/12/strengthening-efforts-against-spread-of-non-consensual-intimate-images/
[3]https://www.theguardian.com/technology/2017/nov/07/facebook-revenge-porn-nude-photos
[4]https://www.propublica.org/article/how-facebook-undermines-privacy-protections-for-its-2-billion-whatsapp-users
— 完 —
量子位 QbitAI · 頭條號簽約
關注我們，第一時間獲知前沿科技動態
