一、漢末三國
秦朝將郡縣制推向全國，漢初又糅合封國制，故謂郡國並行制。西漢中期後，封國勢力日衰，郡縣成為佔絕大多數的地方行政機關。漢武帝時設定十三刺史部，在郡縣上加了一級監察機構。
184年，為鎮壓黃巾起義，東漢中央政府允許地方政府和地方士族豪強自行招募軍隊。188年，依據劉焉的建議，中央政府又改刺史為州牧。昔日作為中央派出監察機構的刺史一躍成為手握地方行政、財政和軍事大權的州牧。
自主募兵已經使得地方大族的軍事實力大增，放權州牧更使得有實力和野心的宗室、豪強士族可以名正言順地竊據地方權力。至此，割據已經事實形成，中央政府名存實亡，進入群雄逐鹿的時期。
二、唐末五代十國
唐睿宗時，為防止異族的進犯，唐朝廷擴充軍鎮，設立節度使。到玄宗時，天下共有九個節度使和一個經略使。各地的節度使手握重兵，同時也兼任其他職務，在地方往往還有財政，監察管內州縣等權。節度使制度既是唐朝安疆拓邊的利器，也為唐朝的衰落埋下了隱患。
755年，身兼三鎮節度使的安祿山發動叛亂。在平叛以及之後的維穩過程中，中央政府越來越仰仗藩鎮的力量，節度使、經略使、觀察使越設越多，直至無地可設。藩鎮之中有許多是忠於朝廷、接受中央人事任免的，但它們在內政事務上又有一定的獨立性；更有一些以河北三鎮為代表的藩鎮，它們聽調不聽宣，甚至不服從唐廷的任命。
中唐後期，藩鎮割據的局面事實上已經形成。乾符二年，黃巢領導的農民戰爭遍及全國，唐朝廷建構的藩鎮制約體系被打破。農民軍攻入長安後，唐廷威望無存，各地勢力肆意發展，很快進入軍閥混戰的五代十國時期。
五代十國時，地方雖然初步形成了割據政權，但在這些政權的內部，武人思想盛行，軍中往往還存在一些山頭。這些政權大多短命，有不少就亡於內部的軍事政變。這是中國歷史上最混亂的時期之一。
三、清末民國
在民國政府作為中國（名義上）的中央政府的三十餘年中，地方擁兵自重、自行其事的現象可以說是相伴始終。而這些現象的種子，則是在風雨飄搖的晚清種下的。
在太平天國運動中，綠營和八旗不堪大用、無力鎮壓，清政府乃命令各省在籍官紳舉辦團練，組織武裝。在鎮壓太平軍及洋務運動期間，清廷又給予一些地方度支自便之權。這就為地方的分立提供了軍事和經濟條件。
這些地方實力派組織的團練軍在為國家立下赫赫戰功的同時，也天然具有以籍貫為紐帶，保持內部團結的特點，如軍號：湘軍、淮軍、楚軍等，就有明顯的地域性。後來，湘淮楚三軍主要人物既治軍務，又參與中央政事，有時又坐鎮地方。這種類似“入而內相，出為外王”的關係十分微妙。
在八國聯軍侵華戰爭（1900年）中，李鴻章（任兩廣總督）等人（還有兩江總督劉坤一、湖廣總督張之洞、閩浙總督許應騤、四川總督奎俊、鐵路大臣盛宣懷、山東巡撫袁世凱）認為中國必敗，為保全地方，竟然與列強達成“東南互保”協議，對北方戰事坐視不理。
事後，李鴻章又被清政府任命為談判代表。不管李鴻章的初心如何，這些事件已經表明，清政府並非上下一心，中央對地方的控制已經大大衰弱；清政府對地方和軍方實力派並不信任，但又不得不倚重之。在大廈將傾的時代，這種不利的趨勢沒有得到扭轉，反而不斷的加劇。日後民國的軍閥割據混戰，與此有一定的關係。
甲午戰爭（1894年）後，清政府開始籌建新軍。辛亥革命前，各省的新軍相繼籌建或建立。但在辛亥革命時，新軍中既有追隨革命者，又有效忠清廷、或是趁勢投機者。其中，武昌新軍打響了革命的第一槍；而以袁世凱為核心，駐守北方的北洋新軍則是清政府與革命勢力對峙和談判的最大籌碼。
袁世凱野心勃勃，趁機成為中華民國大總統。此後數年，北洋勢力不斷謀求擴張、駐守各地的前清新軍大多成為地方的實力派，而孫中山等革命黨人仍在南方活動。
袁世凱修約和稱帝前後，一批愛國軍人與公開袁世凱決裂，不再聽其號令。1916年6月，袁死。北洋勢力隨即分裂為直、皖兩系，張作霖領導的東北奉系也自成一家。三系矛盾日益激化，直皖戰爭、直奉戰爭、第二次直奉戰爭、北伐戰爭等大戰接踵而至，較小規模的軍閥混戰更是數不勝數。這些割據和爭奪基本以省為單位進行。
1928年12月，奉系軍閥張學良在東北宣佈易幟，擁護南京國民政府。至此，北伐戰爭結束。北伐戰爭結束了北洋軍閥時代，蔣介石領導的南京國民政府在形式上統一中國。但是，全國各地仍存在大大小小的軍閥勢力，民國進入新軍閥混戰的階段。隨著全面抗戰爆發，各軍閥才暫止爭鬥，共禦外侮。
