1947年5月，震驚全國的孟良崮戰役，國軍頭號王牌主力，整編74師被華東全殲，師長張靈甫中將被擊斃。孟良崮戰役之後，蔣介石撤換了陳誠，湯恩伯等一批將領，又處分了李天霞，黃百韜等將領，對原來的部署也做出了相應的部署，華野各部隊轉入短暫休整。
但是孟良崮戰役結束後，蔣介石並沒有放棄對山東的重點進攻，他先是啟用日本戰犯岡村寧次為顧問，在南京，徐州等地召開軍事會議，檢討戰局，研究對策。之後又命令陸軍副司令範漢傑到魯中前線統一指揮國民黨軍九個整編師，22個旅，在萊蕪至蒙陰不到50公里的正面擺成反正，並配備了最新的山地作戰器材和炮兵，囤積物資，準備對華野發動新的進攻。
此時關內戰場上都陷入了焦灼狀態，毛主席所處的西北戰場，比華東要困難得多，彭德懷率領兩萬人和胡宗南的數十萬大軍周旋。劉鄧大軍千里越進大別山，轉入外線作戰，好讓內線飽受戰爭摧殘的老百姓休養生息。
當時華野準備繼續在內線作戰，尋找戰機殲滅敵人。但是當時各大解放區的情況十分糟糕，經過一年多的內線作戰，解放區農民的豬牛羊都不多，甚至連村子裡的樹都變少，老在解放區打，根本不是長久之計，這才有了劉鄧大軍的千里越進大別山，向敵人後方插去，威脅敵人的腹地。
但是劉鄧大軍在挺進大別山的時候遭到了國民黨軍的圍追堵截，損失慘重。1947年7月，為了策應中野的行動，軍委改變了以前要求華野不分兵，堅持內線殲敵的戰略方針，要求華野所部分成三路，一縱，四縱在葉飛，陶勇的指揮下向魯南挺進；三縱，八縱，十縱在陳士榘，唐亮的指揮下向泰安挺進；陳毅，粟裕指揮二縱，六縱，七縱，九縱在沂水方向正面迎擊敵人，這就是歷史上著名的“七月分兵”。
“七月分兵”是在極其倉促的情況下進行的，很多問題都沒有來得及周密部署，再加上當時正值雨季，給華野各部隊的行動帶來了很大的麻煩。葉陶兵團和陳唐兵團向魯南和魯西南挺進，蔣介石立刻抽調精銳進行攔截，最後留在魯中就剩下了五個師，分別是胡璉的整編11師，黃百韜的整編25師，王凌雲的整編第9師，黃國樑的整編64師，李彌的整編第8師。
陳毅，粟裕手握四個縱隊留在內線，雖然總兵力不及國民黨軍的五個整編師（軍），但是如果單獨對付他們其中的任何一個師，則佔據明顯的兵力優勢。1947年7月10日，粟裕最開始先是命令部隊進攻黃百韜的整編25師，但是由於多日大雨，山洪爆發，再加上整編25師迅速和整編64師考慮，粟裕不得不放棄行動，之後粟裕迅速盯上了駐守在南麻的胡璉整編11師。
整編11師的前身，就是國民革命軍18軍，五大主力之一，是國民黨軍中老資格的王牌部隊，戰鬥力絲毫不遜色於五大主力之一的整編74師。整編11師師長鬍璉和整編74師張靈甫都是黃埔四期的同學，也都是陝西人，但是胡璉在軍事指揮上比胡璉更為狡猾，也更難對付。1946年的章逢集大戰，劉鄧大軍曾集結三個縱隊想殲滅整編11師，但是卻和整編11師的一個團打了數天，都沒有將這個團殲滅，最後不得不匆匆撤退。
這次粟裕也盯上了整編11師，不過胡璉所部駐守的南麻地區並不好打，南麻地區處於魯中地區，是一個小盆地，三面是山，東面是丘陵，只有北面的高地有一個隘口通往博山，沂河從南麻以南流過，這個地方並不利於大部隊的展開。
胡璉剛到南麻的時候就覺得這個地方，於是率領部隊駐紮在這裡，蔣介石還在很短的時間內下令部隊修築了上千個碉堡，各個碉堡之間可以形成交叉火力，也有交通壕往來，碉堡外面還設定有鐵絲網，地雷，防禦十分堅固。
但是南麻戰役一開始，就進行的很不順利，7月17日，各縱隊按照部署向前線開進，但是途中又下起了暴雨，行動受阻。18日早晨，各部隊到達陣地後，立刻向整編11師發起進攻，但是遭到了整編11師的頑強抵抗，損失慘重，敵人密集的火力網和很多暗堡給華野進攻部隊造成了很大的傷亡。
由於戰鬥期間連續下雨，手榴彈，炮彈，炸藥都受潮失效，很難對敵碉堡進行有效打擊。道路泥濘，部隊衝鋒的時候也很費事，而敵人躲在地堡裡，以逸待勞，給我軍造成了很大的傷亡。就在我軍對南麻進行猛攻的時候，蔣介石擔心這支王牌部隊也覆滅，立刻命令各部隊進行增援。
孟良崮戰役，一大批將領剛被懲處，所以這次國民黨軍的增援部隊不敢怠慢，尤其是黃百韜的整編25師，攻勢很兇猛，很快突破了華野七縱的陣地。使我軍陷入了進退兩難的境地，粟裕不得不下令撤軍。
南麻戰役給華野造成了很大的傷亡，但是在撤退的途中，粟裕又盯上了李彌率領的整編第8師。這支部隊當時駐守在臨朐，臨朐的工事不如整編11師堅固，整編第八師雖然曾是遠征軍，但是戰鬥力也無法和整編11師相比，粟裕立刻下令二縱，六縱，九縱圍攻臨朐，七縱負責阻擊援兵，各部在7月24日發起進攻。
不過，粟裕又遇上了大暴雨和頻繁爆發的山洪，部隊一直到25日才到達臨朐城下，在渡河的時候，很多戰士和物資都被衝入了洪水中，而此時整編第8師的兩個主力旅也已經進入城內。不過粟裕依然堅持臨朐，在連續進攻了兩天後，粟裕發現戰役又打成了焦灼，國民黨的增援部隊也陸續趕來，不得不再次下令部隊撤出戰鬥。
南麻、臨朐戰役，華野雖然殲滅敵軍1.4萬人，但是自身卻傷亡2.1萬人，打了兩個傷亡慘重的消耗戰，四個主力縱隊傷亡都很大。8月4日，粟裕對這兩場戰役做出了深刻的檢討，並報告軍委，引咎自責。
不過軍委和毛主席並沒有處分粟裕，也沒有指責華野任何一位領導人。8月6日，軍委發來電報：“粟裕同志於4日電悉，整個形勢是好的，望安心工作，鼓勵士氣，以利再戰。”華野的指戰員們也很快從失敗的陰影下走出來了，繼續進行外線出擊，開始新的戰鬥。
