23軍和24軍都是粟裕大將一路帶起來的，且兩軍首任軍長陶勇、王必成，與葉飛建軍組成著名的“葉王陶”。
1928年元月，方誌敏等人在江西，領導農民武裝起義。起義後，方誌敏挑選青壯年，編成一個紅軍獨立連，“一點星火，逐漸擴大”，一年後獨立連就發展為獨立營，並於1929年8月正式編為工農紅軍江西獨立團。在方誌敏的領導下，連戰連捷，規模越來越大，從獨立團擴編為獨立師，不久又擴編為紅10軍。
1933年6月，紅10軍南渡信江，參加第四次反“圍剿”，同紅31師合編成立紅11軍。同年10月，與其他部隊合編組建為紅7軍團。
1934年7月，第五次反“圍剿”失敗後，又組成北上抗日先遣隊，但在這個過程中，先遣隊傷亡慘重。由於中央蘇區喪失，主力紅軍長征，閩浙贛蘇區也處於敵人大舉進攻之中，形勢十分嚴峻。
先遣隊與閩浙贛蘇區新的紅10軍合編，成立紅10軍團，司令劉疇西、政委樂少華、參謀長粟裕。
為了擺脫敵人的圍追堵截，紅10軍團開始轉移。在來到贛東北敵人隴首地段封鎖線的山腳下後，由於劉疇西的猶豫，導致軍隊行動遲緩，陷入了敵人重兵包圍之中。儘管廣大官兵頑強迎戰，但最後只有少數人突圍，大部分壯烈犧牲，方誌敏、劉疇西被捕。
方誌敏
1935年2月初，以突圍出來的人員為基礎，組成紅軍挺進師，粟裕為師長，從此進入浙江，開展游擊戰爭，建立浙閩邊革命根據地。轉戰浙江、福建，進行了堅苦卓絕的3年游擊戰，並使這支只剩下500多人的部隊由小到大，越戰越強。
1938年3月18日，粟裕率浙閩邊抗日遊擊總隊開赴皖南，加入新四軍戰鬥行列，部隊整編為新四軍第2支隊4團3營，粟裕任第二支隊副司令。
4月28日，粟裕奉命組建新四軍先遣支隊，並任先遣支隊司令，向蘇南敵後執行偵察任務。
6月11日，挺進南京、鎮江間破壞鐵道任務。
6月21日，先遣支隊撤銷，粟裕回第二支隊仍任副司令，後任代司令。
1939年11月，新四軍軍部決定對長江以南的新四軍部隊實施統一領導，第一、第二支隊合併組成江南指揮部，陳毅任指揮，粟裕任副指揮，下轄第二、第四團、新六團、蘇皖支隊、挺進縱隊和江南人民抗日義勇軍及蘇南地方抗日武裝。
粟裕
然而面對日寇的長驅直入，國民黨軍節節潰退，華中敵後廣大人民陷入水深火熱之中。
1940年7月，根據中共中央關於發展華中、開闢蘇北的指示，陳毅、粟裕率江南主力北渡長江，與挺進縱隊、蘇皖支隊會合，指揮部改稱蘇北指揮部，下轄3個 縱隊9個團，共7000餘人。
第1縱隊，司令兼政委葉飛；第2縱隊，司令王必成，政委劉培善；第3縱隊司令兼政委陶勇（10月，劉先勝任政委）。
留在蘇南的部隊，成立新的江南指揮部，羅忠毅任指揮，廖海濤任副指揮，以第四團一部為主力，同各縣地方武裝一起，編組為新三團、第四團、獨立一團和獨立二團，共3000餘人，皖南事變後，江南指揮部及所屬部隊改編為新四軍6師16旅。
7月25日，蘇北指揮部揮戈東進，擊潰國民黨稅警總團一部並殲滅江蘇保安4旅近2000人，開闢了以黃橋為中心的抗日根據地。
10月初，國民黨江蘇省主席韓德勤指揮26個團約3.4萬人，分3路進攻黃橋。蘇北指揮部在八路軍第5縱隊和新四軍江北指揮部的戰略配合下，經4天激戰，以5000主力殲國民黨頑固派軍12個團1.1萬餘人。
10月10日，與八路軍第5縱隊（黃克誠部，後改編為新四軍3師）勝利會師，為合力開闢蘇北奠定了基礎。
1941年1月，“皖南事變”後，新四軍重建，蘇北指揮部所屬新四軍第1、第2支隊編為第1師，粟裕任師長（後兼政委），政委劉炎，政治部主任鍾期光，共1.3萬餘人，下轄3個旅。
第1旅由原1縱編成，旅長兼政委葉飛，政治部主任姬鵬飛；第2旅由原2縱編成，旅長王必成，政委劉培善；第3旅由原3縱編成，旅長陶勇，政委劉先勝。
3月，蘇中軍區成立，第1師兼蘇中軍區。
1942年5月，實行精兵簡政和主力軍地方化，各旅保留1個主力團，其餘各團編入地方武裝。
9月起，蘇中軍區透過內外線緊密配合，經過9個多月的艱苦戰鬥，先後粉碎了日偽的“全面清鄉”、“強化清鄉”和“延期清鄉”。
1942年11月，為堅持蘇中地區的鬥爭，新四軍6師合併到1師，統歸粟裕統一指揮，對外仍保留原番號。師長兼政委兼司令為粟裕，副師長為葉飛（仍兼一旅旅長和政委），政治部主任為鍾期光，下轄第1軍分割槽；第2軍分割槽（2旅）；第3軍分割槽（1旅）；第4軍分割槽（3旅）。
12月，蘇中軍區海防團擴建為海防縱隊，開展海上抗日鬥爭，開闢了海上交通線。
1943年10月，新四軍6師18旅從蘇南進入江都、高郵、寶應地區，不久劃歸1師建制併兼第1軍分割槽。
12月，為粉碎蘇北大掃蕩，加強江南堅持敵後鬥爭的力量，2旅南下與16旅合併，2旅番號取消，稱16旅，留下的2旅部分重組第2軍分割槽。
1944年12月27日，為執行向華南敵後發展的方針，粟裕率1師主力3個團渡江南下，會合16旅。
葉飛繼任蘇中軍區司令，並組建蘇中軍區教導旅。
1945年1月，組成蘇浙軍區，統一指揮蘇南、浙西、浙東部隊，司令粟裕，政委譚震林（未到職），下轄3個縱隊：16旅編為1縱，司令王必成，政委江渭清；浙東遊擊縱隊編為2縱，司令何克希，政委譚啟龍，副司令張翼翔；1師南下部隊編為3縱，司令陶勇，政委阮英平，政治部主任彭德清。
蘇浙軍區的成立，引起國民黨頑固派的極大不安，從2月14日至6月23日，國民黨第三戰區向蘇浙軍區發起由5個到42個團的3次大規模進攻，新四軍取得3次反頑戰的勝利，共殲滅頑軍12300餘人，粉碎了國民黨頑固派聚殲蘇浙軍區主力的企圖。
同時經受了大兵團作戰的鍛鍊，開始了由抗日遊擊戰爭到運動戰的轉變。
4月3日，葉飛率教導旅3個團自蘇中南下，並改任蘇浙軍區副司令，教導旅改編為蘇浙軍區4縱，司令廖政國，政委韋一平。
第1師主力相繼南下後，管文蔚任蘇中軍區司令，陳丕顯任政委。7月蘇中軍區重新組建教導旅，8月又組建了3個旅。
7月11日，國民黨挺進第五縱隊起義，改編為二縱二旅，張俊升任縱隊副司令兼旅長，王仲良任旅政委。
同時，第三、第四、第五支隊編為2縱1旅，張翼翔兼旅長。
1945年8月上旬起，蘇浙軍區積極展開對日軍的大反攻，在浙西和蘇南，共解放縣城10座，拔除日偽據點100餘處。
8月中旬，蘇中軍區部隊向日偽軍發動猛烈進攻，連克諸城，使蘇中、蘇北連成一片。
1945年9月下旬，蘇浙軍區各縱隊分批北撤，蘇浙軍區至此完成了歷史使命。
10月，蘇浙軍區第1、3縱分別編為第6、第8縱隊，蘇浙軍區第2、4縱及蘇中軍區教導旅編為第1縱隊，蘇中軍區部隊編為第7縱隊。
1945年10月25日，成立華中軍區，司令張鼎丞，政委鄧子恢，副司令粟裕、張愛萍，副政委兼政治部主任譚震林。下轄蘇中軍區(一、二軍分割槽，獨立旅)、淮南軍區(三、四軍分割槽，獨立旅)及第五、六、七、八軍分割槽。
高郵戰役和隴海線徐州至海州段戰役，殲滅拒降日偽軍2萬餘人，使華中、山東解放區連成一片。
11月10日，中央決定渡江北上和留在華中、淮南的新四軍組建為華中野戰軍，粟裕任司令，譚震林任政委，下轄第6、第7、第8、第9縱隊，共4萬餘人。
第6縱隊，以原蘇浙軍區第1縱隊為基礎組建，司令王必成。
第7縱隊，由原蘇中軍區部隊組建，司令員吉洛（姬鵬飛曾用名）。
第8縱隊，由原蘇浙軍區第3縱隊改編，司令陶勇，下轄5個團。（1946年5月8日下轄第1、3兩個旅6個團，11月下旬成立2旅。）
第9縱隊，由原新四軍4師11、12旅及騎兵團組成，司令張震。
面對國民黨在美帝國主義的支援下，發動了對解放區的全面進攻，華中野戰軍奮戰蘇中，實現了七戰七捷。
1946年5月，6縱與蘇中軍區獨立旅合編為第6師，轄16旅（原6縱）、18旅（原獨立旅）。10月山東野戰軍7師20旅改為17旅（前身為新四軍7師19旅57團，7師皖南支隊）。
1947年1月，成立華東野戰軍，華中野戰軍8縱改為華東野戰軍第4縱隊，陶勇任司令(建國後任東海艦隊司令)，各旅分別改編為第10、第11、第12師；6師改為華東野戰軍第6縱隊，司令王必成，政委江渭清，各旅分別改為第16、第17、第18師。
兩縱隨陳粟大軍挺進豫皖蘇，與劉鄧、陳謝大軍共同經略中原。並參加了破擊隴海路、豫東等戰役。
1948年9月後，先後參加了濟南、淮海戰役3個階段的全過程。
1949年1月，華野4縱改編為解放軍第23軍，軍長陶勇，政委盧勝，各師分別改為67、68、69師，成立了炮兵團，屬3野7兵團。
華野6縱改編為中國人民解放軍第24軍，軍長王必成，政委廖海光，各師分別改為70、71、72師，屬3野8兵團。
隨後23軍屬中集團參加渡江戰役，在南京長江江面重創企圖滋事的英國遠東艦隊，這就是有名的“紫石英號事件”。（後來陶勇任東海艦隊司令，可能也是這個原因吧？）
1949年8月，24軍解放長山列島和舟山群島的戰鬥。
1952年9月，在朝鮮戰爭打響的第三年，23軍作為第一期輪換部隊入朝參戰，68師師部調空軍，203團，204團及67師199團機關調山東軍區，改作新兵接訓機構，原202團調歸67師，改番號為199團，另調入25軍73師。
(25軍73師前身為堅持湘鄂贛三年游擊戰爭的紅16師，抗戰初期編為新四軍第一支隊第一團，皖南事變突圍出來後整編為新四軍7師19旅，解放戰爭中編為華野7縱19師)。
24軍參加抗美援朝戰爭，25軍74師（前身為淮南軍區第5旅，後改為華野7縱20師）調入該軍，24軍71師調出。
1953年1月，芝山洞南側高地的“丁字山”戰鬥中，23軍67師201團以一個排機智靈活地抗擊美第8集團軍的“陸空聯合作戰試驗”，以傷亡11人的代價堅守住陣地，殲敵150人。被邀請前來觀摩的國會議員們都懷著“憂鬱”的心情對這種“斯巴達”式的進攻感到懷疑。7月金城戰役期間的石峴洞北山戰鬥中，23軍67師200團戰士許家朋為掩護部隊衝擊，毅然撲向敵軍地堡射孔，戰後榮獲“朝鮮民主主義人民共和國英雄”稱號。
1953年春夏，24軍在開展的冷槍冷炮殺敵競賽中，72師214團8連戰士張桃芳用436發子彈斃傷敵214名，榮立特等功，獲二級戰鬥英雄稱號。7月24軍參加了金城反擊戰，取得了抗美援朝戰爭的最後勝利。
1955年10月，24軍從朝鮮歸國，屬北京軍區，駐防河北承德，部署在京郊和唐山一線，拱衛北京。1968年24軍70師改為北京衛戍區警衛3師。
1958年3月，23軍撤離朝鮮，回國後駐防黑龍江，1960年代初參加大慶石油會戰。
1985年9月，23軍整編為第23集團軍，下轄67、68、69師3個步兵師，並編入坦克旅、炮兵旅和高炮旅以及守備第5、第7師（後撤銷）。此後，67師改編為步兵旅後縮編為69師207團，68師改編為摩步68旅，69師改編為合成69旅，坦克旅改編為裝甲旅。
24軍整編為24集團軍。
1992年，原屬天津警備區的坦克1師調入該24集團軍。1998年24軍72師與唐山預備役師合併，組成河北省預備役高炮師，坦克1師改為裝甲師。同時，1955年起即擔任迎外表演任務的天津警備區摩步196旅也轉歸24集團軍。
（坦克1師是我軍第一支坦克部隊，前身是1945年12月組建的東北坦克大隊，1949年5月正式成立坦克第1師，參加過錦州戰役、天津戰役、開國大典、抗美援朝，1985年由66軍改歸天津警備區）
（摩步196旅前身為1946年3月由山西地方部隊組建的冀晉獨立1旅，後為華北軍區1縱隊1旅，1949年2月改為66軍196師，參加過抗美援朝，1985年66軍撤銷後改歸天津警備區）2003年24集團軍撤銷，70師縮編為70旅，與裝甲1師改隸65集團軍建制。
人物小記
陶勇
陶勇原名張道庸，於1913年1月21日出生於安徽省霍邱縣一個貧苦農民家庭。幼年喪父，7歲被迫給人放牛，1929年4月到河南商城參加游擊隊。曾任紅11軍32師班長、排長、連長。參加了鄂豫皖蘇區歷次反“圍剿”和紅四方面軍西征入川作戰。率部參加開闢川陝蘇區的鬥爭和反“三路圍攻”、反“六路圍攻”作戰。隨紅四方面軍長征到陝北後，任紅9軍教導師師長。
抗日戰爭爆發後，調任新四軍第1支隊副參謀長，期間陳毅為其改名，略掉張姓，取原名“道庸”之諧音稱“陶勇”，他是粟裕的得力干將，戰功卓著。華野4縱，擔負對整編74師的正面攻擊。
陶勇於1950年11月參加抗美援朝戰爭，歷任志願軍第9兵團副司令、代司令兼政委，曾參加第二、第五次戰役，1955年被授予中將軍銜，1967年1月21日在上海逝世。
王必成
王必成於1912年出生，湖北省麻城乘馬崗鎮小寨村人，讀過2年私塾，後因家庭困難而輟學，由於對社會的黑暗感到不滿，1926年年僅14歲的王必成參加農民運動，1927年參加農民義勇隊，1928年參加赤衛隊，1929年參加工農紅軍，剛開始在紅四方面軍1軍1師2大隊做勤務員，後來又改為傳令兵。
由於表現突出，很快就被提升為紅四方面軍10師3團交通隊通訊班長和隊長，並於1931年提升為紅四方面軍10師3團3營3連副連長，並逐步提升，至1936年已任紅30軍89師副師長，年僅24歲。
到達延安後，進延安抗大學習。
後調任新四軍第1支隊參謀長，後又任團長，他帶領部隊在江蘇茅山建立了根據地，由於作戰勇猛，部隊戰鬥力強，被當地群眾譽為王老虎，他帶領的第2團被人稱為老虎團。
1939年11月7日，王必成為江南指揮部第2團團長，由於作戰勇敢，富有謀略，很受粟裕賞識，併成為粟裕的得力干將。
在解放戰爭中，王必成率領六縱，在當時華野的12個縱隊中，人數最多，實力強悍，是粟裕手中的拳頭力量。1955年被授予中將軍銜，1989年3月13因病在南京逝世，享年77歲。
