雖然中央紅軍在陝北立足了腳跟，但紅軍的發展問題也隨之凸現出來。中央紅軍進駐陝北之後，陝北的紅軍總數已經達到了15000多人。陝北東臨黃河，北靠沙漠，西面荒涼，人煙稀少，確實不容易被敵人包圍，但陝北土地貧乏，經濟非常落後，交通也不發達，一下進駐這麼多紅軍，給養成了問題，而且陝北人口也比較少，紅軍缺乏兵源。因此，僅在陝北，紅軍無法發展。
在陝北的東西南北四個方向中，北面是沙漠，發展空間不大；西面有胡宗南部和馬鴻賓等“四馬”，以紅軍現有實力，向西發展的條件還不成熟；南面是東北軍和西北軍，紅軍要爭取東北軍抗日，因此不能與張學良衝突，而陳誠針對紅軍在洛陽以西佈置了3個軍的機動部隊，如果向南發展，勢必把陳誠的中央軍引向西北，這顯然與紅軍的局勢及策略不相適應；東面的山西有閻錫山的晉軍，雖有黃河天險但晉軍相對最弱，只有50個團的兵力。毛主席等人仔細研究了紅軍的處境後，毅然決定發起東征，渡過黃河，進軍呂梁山脈，建立新的根據地。
1936年1月中旬，正在甘泉前線指揮作戰的彭德懷收到了毛主席決定東渡黃河的電報。對於東征山西的決定，彭德懷在戰略上是贊成的。他知道陝北是小紅軍的理想根據地，但只能是大紅軍落腳點，紅軍必須要向陝北以外發展。但作為一線的指揮員，出於戰役、戰術層面上的思考，彭德懷對東渡黃河還有憂慮。一是因為黃河本身就是天險，而且閻錫山長期經營，花了數十萬元修築了黃河壁壘，而紅軍加上劉志丹、徐海東兩部才13000多人，況且中央紅軍剛剛經過長征，粉碎“第三次”反圍剿戰役也剛剛結束，紅軍將士體質衰弱，彭德懷擔心強渡黃河會不成功。二是代價問題，紅軍東渡黃河，蔣介石勢必要大幅增兵山西，在蔣，閻的夾擊下，紅軍能不能安全撤回，也是未知數。彭德懷把疑慮告訴了毛主席，強調要絕對保證紅軍能安全撤回。毛主席對此很不滿意，他對彭德懷說：“你去絕對保證，我是不能絕對保證的。”其實，彭德懷對東征的疑慮也是無可奈何的，他後來回憶說：“我這種想法，反映了當時紅軍體質弱的實際情況以及在長征中沒有根據地的痛苦教訓。”
毛主席也考慮到了他的戰友們的疑慮，因此，他在1月31日召開了軍事會議，討論東征問題，彭德懷也從前線趕回來。會上的爭論很大，主要是擔心東渡紅軍能不能撤回陝北，也擔心會喪失陝北根據地。經過毛主席一再說服，與會人員最終統一了認識，確定了東征計劃，同意將紅軍的發展方向定在山西和綏遠等省。
因為瓦窯堡會議確定了建立抗日民族統一戰線的路線，此次東征擴大根據地和以往有所不同，其性質是抗日民族革命與土地革命的結合。東征不僅僅是要進行土地革命，更重要的是宣傳抗日，發動群眾，建立抗日統一戰線。因此，紅一方面軍是以抗日先鋒軍的名義進行東征的，彭德懷任總司令，毛主席任總政委員，下轄紅1軍團，紅巧軍團和紅28軍。紅1軍團林彪為軍團長，聶榮臻為政委；紅15軍團徐海東為軍團長，程子率為政委，紅28軍劉志丹為軍長，宋任窮為政委。陝北留守紅29軍，加上一些地方武裝，由周恩來、博古統一指揮。
東征計劃確定後，彭德懷與毛主席到了無定河以北的大相村。隨後，彭德懷帶著電臺在無定河河口上下游各十數里範圍進行了十分仔細的偵察。彭德懷深知紅軍的實力還相對弱小，因此十分謹慎。經過一個星期的詳細偵察，彭德懷選定了紅1軍團和紅巧軍團兩處渡河地點，這兩個地點敵人的兵力不足一個營，其縱深也只有留譽鎮和石樓鎮。這兩個鎮的兵力也只各有一個營的兵力，即使有意外情況發生變化，紅軍也能安全地撤回。
地點雖然選定了，但渡船的缺乏成了另一個主要問題。在預定渡河點，當時只有渡船15只，每條船隻能載30人，來往一次需要1小時20分，這樣的速度是不能保證紅軍順利渡河和安全撤回的。以抗日先鋒軍的數量，必須保證有100條船。彭德懷便組織地方黨、政、民工，加緊造船，召集船工，保證每條船配備3到4名，並加強對他們的訓練和政治教育。
在準備船隻階段，彭德懷繼續進行仔細的偵察，他深知他的部隊在武器裝備差，無炮火掩護的條件下進行強渡十分危險，所以他必須保證萬無一失。他把對岸的每一個碉堡的實力、火力配備，預備隊位置都偵察得很清楚，以確保渡河成功。彭德懷身為高階將領，仍能如此親自認真地進行詳細的準備，體現了一代名將的風範。
一個月後，渡河準備工作完成了。彭德懷返回大相村，向毛主席彙報了準備的情況、渡河的時間和地點，得到毛主席的批准。2月20日，抗日先鋒軍在彭德懷的指揮下，利用黑夜作掩護強渡黃河。由於偵察得非常詳細，閻錫山花了數十萬元修築的黃河壁壘沒有起到什麼作用，先鋒軍在幾乎沒有傷亡的情況下勝利渡過黃河。到21日下午，抗日先鋒軍全部進入山西境內。
進入山西后，抗日先鋒軍的宣傳抗日、建立抗日統一戰線的既定策略立即在各項工作中顯現出來。尚在2月4日在準備渡河階段，抗日先鋒軍就下發了兩道命令確保既定路線的實施。在《紅一方面軍政治部關於東征中地方工作的指示》中首先就指出：
“在這次東征中地方工作的基本方針應該是：1.把抗日的民族革命與土地革命聯絡起來。……去發動山西最廣大的基本群眾抗日鬥爭與土地鬥爭，並把這兩個革命密切的結合起來；2.要在這些地方創造蘇區，建立模範的抗日根據地。……”
關於地方工作，“指示”作了許多決定，首先就是抗日宣傳。“指示”要求擴大抗日反賣國賊的宣傳，把日本帝國主義侵略中國與國民黨賣國的許多具體事實和罪惡，以及抗日聯軍政府和蘇維埃人民共和國的法令很通俗的向群眾宣傳解釋。值得注意是，此次《指示》雖然仍要發動群眾沒收地主的財產與土地，“是土豪則打土豪，是賣國賊則打賣國賊，”但有些條件下豪強地主不得沒收，其中一條就是家中有人或本人參加抗日反國民黨軍閥鬥爭的，還要保護與獎勵。
在《紅一方面軍政治部關於東征部隊的政治工作問題的訓令》中，抗日的色彩和傾向更為明顯，“訓令”明確的指出，東征的基本任務是“給日本帝國主義對華北五省的侵略以迎頭痛擊，發動山西龐大民眾的抗日互動與抗日戰爭，援助全國人民的反日運動，消滅賣國賊閻錫山，掃清抗日道路，擴大與鞏固現有抗日根據軍，解除山西人民的痛苦，實現組織抗日聯軍與國防政府以開展神聖的民族革命戰爭。”“訓令”要求部隊在“東下抗日”，“援助全國民眾的愛國運動”，“掃清抗日道路”，“擴大抗日根據地”的口號下進行動員。
同時，彭德懷與毛主席釋出了《中國人民紅軍抗日先鋒軍佈告》，再一次向全國發起號召，全國群眾聯合起來，一致對外，打倒日本帝國主義。
先鋒軍越過黃河後，彭德懷與毛主席兵分兩路，彭德懷隨1軍團到留譽鎮，毛主席隨巧軍團到石樓。接著抗日先鋒軍越過呂梁山，佔領了隰縣、石樓、吉縣。面對先鋒軍的進攻，閻錫山立刻作出反應，他迅速集結了12個團在兌九峪，同時派出兩個師進佔緩德、米脂，想趁陝北空虛，奪下陝北根據地，斷絕先鋒軍的退路。但這兩個師被紅軍打敗了，這樣紅軍解除了後顧之憂，確保了根據地的安全。
在兌九峪的晉軍12個團集結完畢後，準備向大麥郊方向進攻。彭德懷原計劃準備乘敵前進時，先殲滅幾個冒進的團，消滅敵人一冀。然而這個方案被取消了，毛主席要求對兌九峪採取三面圍攻的打法，一口吃掉晉軍的這十幾個團。但此役先鋒軍口張得太大，戰鬥沒有順利結束，一天之後，兩軍進入了相持狀態。
紅軍一貫堅持的戰術原則是，集中優勢兵力打擊敵人一翼，速戰速決，在運動中消滅敵人。兌九峪戰役的打法顯然與其是相悖的，相持使抗日先鋒軍處於不利的境地。因為蔣介石得知先鋒軍進入山西后，即下令陳誠的3個軍進入山西。此時，紅軍面臨著被包圍的危險，毛主席隨即調整了作戰計劃，乘晉軍主力都集中在兌九峪，後方空虛，分兵3路，15軍為左路軍向文水，交城方向挺進，威脅太原；以1軍團為右路軍由霍縣南下，向靈北、介休北擴張，佔領了趙城、洪桐，臨汾襄陵，曲沃等縣的廣大農村；以15軍團一部和30軍為中路，在晉西牽制閻軍，控制黃河渡口，保證後方的後勤給養和抗日先鋒軍能夠安全回渡。
太原受到威脅，閻錫山不敢大意，迅速從兌九峪撤兵回防太原，原來進駐米脂、綏德的兩個師也被召回。這兩個師的回撤，使無定河兩岸的蘇區連成一片，形勢對紅軍更為有利。陳誠的3個軍原計劃從渡關北渡黃河，但由於晉軍的兩個師從米脂、綏德回撤了，陳誠不敢從蘇區經過，只好繞道鄭州、石家莊，乘火車集結愉次、太谷地區，然後逐步南壓，紅軍因此爭取了時間。
閻錫山和陳誠忙於集結部隊之時，抗日先鋒軍三路人馬均取得了重要戰績。右路軍在霍縣等地開展發動群眾打土豪，籌款，擴軍，並且破壞同蒲鐵路200餘里；左路軍佔領了太原汾陽之間的汽車路，破壞電線斷敵運輸；中路軍只有幾百人，但他們鉗制了晉軍主力1, 2,3, 4縱隊，石樓城仍被抗日先鋒包圍，在黃河又新造渡船12只，連同原有的船隻，分佈於三交鎮到永和關的主要渡口。
1936年3月28日，彭德懷參加了中央政治局的會議，會議內容為討論東征的形勢和下一步的政治和軍事行動的方案計劃。會議對東征取得的成果很滿意，決定在政治問題上，以迅速對日作戰為黨與紅軍的重要任務；在軍事問題上，批准了軍委提出的建議，即在爭取對日作戰的方針下，第一時期以經營山西為基本戰略方針，在此種方針下，儘可能向河北、河南和綏遠三省作戰役的跳躍；決定了發展和鞏固的原則，普遍的摧毀反動基礎，普遍的發動群眾，猛烈地擴大紅軍。
在十月革命前，擴大紅軍36000人，4個月內完成擴編3個軍、9個師、27個團的編制，地方紅軍3個月內完成4個軍；在陝北及華北五省發展游擊戰爭。可以看出，中央對形勢的估計是很樂觀的，其計劃也是雄心勃勃，對日作戰和在華北五省發動游擊戰爭，表明中共有意逼蔣抗日，早日結成抗日統一戰線。
但這種樂觀的形勢很快逆轉，陳誠的3個軍已經集結完畢，企圖先於紅軍搶佔渡口，封鎖黃河，截退先鋒軍的退路。蔣介石又下令東北軍和西北軍進攻陝北根據地。毛主席、彭德懷認為在山西順利發展已經缺少有利條件，同敵軍決戰也無必要，毛主席、彭德懷當機立斷，命令抗日先鋒軍回渡黃河，撤回陝北。在撤退之時，抗日先鋒軍再一次發表了宣言，通電國民黨政府，全國海陸空軍，各公法團體學校，並給閻錫山寫了專函，說明抗日為重，不願同室操戈，因此撤回陝北，同時還邀請國民黨和晉軍派代表與共產黨共商救國大計。
撤退途中，15軍團在柳林以南殲滅了晉軍的一個整團，保障了回撤的安全。由於事先安排周密，準備工作做得好，只用了3晝夜紅軍就全部渡過了黃河。晉軍和陳誠軍追上來時，只能是望河興嘆了。
此次東征，歷時75天，消滅了敵軍的3個團，籌款30萬元，繳獲了幾十萬發子彈，擴大了紅軍8000人，在陝縣20多個縣發動了群眾，宣傳了黨的抗日主張，使紅軍得到補給和發展，政治和軍事上開始採取了主動，向敵人展開了戰略進攻。整個東征在軍事行動上也很完美，渡河，調敵，回撤，都遊刃有餘，從容不迫，玩弄敵人於股掌之中，體現出高超的戰爭藝術，彭德懷評價東征說：“進軍山西是紅軍到達陝北的第二個勝利。”
