上海、江蘇的警察事業肇始於清朝末年。清光緒三十一年( 1905 年)四月,當時兼管治安的紳辦閘北工程總局改為官辦上海北市馬路工巡總局,以上海道臺瑞澂為督辦,已在軍政界嶄露頭角的道員汪瑞闓出任總辦,以城內各局隸屬。
翌年,兩江總督端方奏準上海推廣巡警,正式成立上海巡警總局,瑞澂任督辦,汪瑞闓被委任為總辦(總局長),招募警務人員 1000 餘人,並按照西方警察模式在上海各地設立分支機構,建立了完整的警察體系。當時的上海巡警總局共轄 4 路 19 區。每路設正巡官 1 人,直轄一個區警管區域。路下每區設副巡官、巡長、巡記各 1 人。同年,因北市與寶山縣交界地區市面日興,且與浦東一水相隔,交通繁劇,盜賊混跡,尤難防範,又添招巡士 2000 餘人,由總辦汪瑞闓會同江海關道總理其事。每月添撥關稅銀 1 萬兩,不足之款,由地方捐稅支配。巡警所管地界分 4 路,每路設 1 個分局、 5 個分割槽,遍佈巡警崗位。並另設騎巡隊,分駐浦東、北市兩處,晝夜梭巡,以補站崗巡士的不足。消防隊、偵探隊也同時成立。又增設水巡警局 1 所,擔任黃浦江與蘇州河警務。巡警總局僱有外籍人員,專備與租界有交涉時使用。後來每年經費銀增至 6 萬兩,概由關稅項下開支。 這樣密集的防控體系建立起來之後,上海的社會治安狀況大為改善,成為各地學習的樣板,紛紛效仿,建立起嚴密的警察組織。
清光緒三十四年,江蘇省設巡警道(相當於後來的公安廳),置公署於省城蘇州,委上海巡警總局總辦汪瑞闓主持該道,並總辦上海警務。 至此,汪瑞闓成為掌握生殺大權的上海、江蘇兩地警察的總首領,是名符其實的上海第一任警察局長,江蘇第一任公安廳長。