1939年11月，蔣介石在重慶主持召開了國民黨五屆六中全會，會議上確定了“以軍事進攻八路軍和新四軍”的政策，一場更大範圍的鬥爭再次掀起。
號稱“山西王”的閻錫山則一直都把八路軍視為眼中釘，肉中刺，充當了執行蔣介石命令的先鋒隊。
1940年1月，蔣介石命令國民黨軍隊第27軍和第93軍進攻劉伯承指揮的八路軍第129師，配合閻錫山協同行動。
蔣介石採取的軍事策略是：“以閻錫山的非嫡系部隊作為先鋒隊，以嫡系部隊壓住陣腳，共同推進，把八路軍第129師趕出太行山，從而奪取太行山抗日根據地。”
閻錫山
此時的蔣介石和閻錫山各自都在打著自己的小算盤，閻錫山想利用蔣介石的力量，恢復他在山西的統治地位。
而蔣介石的想法是，乘機把閻錫山的勢力排擠出山西，然後將自己的中央軍取而代之。
面對蔣介石和閻錫山之間表面上的聯合，身經百戰的劉伯承自然也能看得出來，於是召集部下商討應敵之策。
首先，劉伯承命令陳賡率領的第386旅等部隊沉重打擊蔣介石的嫡系部隊第第27軍，然後主動派人去談判，迫使第27軍撤回原地。
暫時穩住了國民黨第27軍之後，劉伯承終於放開手腳，專心對付閻錫山的部隊，並接連給予了多次致命打擊。
劉伯承
眼看著自己被動挨打，而蔣介石的嫡系部隊卻不來幫忙，閻錫山十分憤怒。他終於意識到，蔣介石的真實目的是要消耗自己的軍事實力，於是立刻把部隊調了回來，不再聯合蔣介石進攻八路軍。
儘管如此，對於劉伯承和八路軍第129師全體將士們來說，他們還要面對另一個威脅，那就是朱懷冰和石友三。
朱懷冰和石友三是蔣介石派來的兩個進攻八路軍的急先鋒人物。
為了爭取石友三共同抗日，時任冀南根據地的領導人陳再道曾經多次主動拜訪，並在物質上給予全力的幫助。八路軍寧可自己的部隊吃粗麵雜糧，穿單薄的衣服，也要把節省下來的白麵和棉衣送給石友三的部隊，可以說是做到了仁至義盡。
而對於朱懷冰的爭取，劉伯承則採取了“先禮後兵”的策略。
八路軍
劉伯承對朱懷冰說道：“我們建立的抗日根據地，是八路軍和人民用鮮血從日寇手裡奪過來的，我們以抗日大局為重，一讓再讓，並不是怕你們，第129師能夠抵禦十萬日軍。為了團結抗戰，不忍同胞自相殘殺，要是逼我們太甚，我們是有人民作後盾的。”
但是，由於朱懷冰和石友三是鐵了心聽從蔣介石的命令，對八路軍的好言相勸置之不理。
就在這個時候，身在延安的毛澤東給劉伯承發來電報說：“對石友三和朱懷冰等人採用爭取的方針已不適用，應尋機出擊，堅決徹底消滅之。”
接到毛澤東發來的指示後，劉伯承立即命令八路軍第129師實施反擊，並把反擊的第一步放在了石友三部隊所在的冀南地區。
經過冀南一戰，儘管沒有全部殲滅石友三率領的國民黨部隊，但將他們趕出了冀南地區，為冀南抗日根據地除掉了一大禍患。
蔣介石
得知石友三在冀南失敗的訊息，蔣介石大為震怒，他立即命令朱懷冰等部攻佔八路軍根據地，同時命令位於黃河以南的國民黨第41軍和第71軍向太原南部集結。
面對這一情況，劉伯承緊急調整作戰部署，決定在平漢路以東發起衛東戰役，打擊石友三指揮的國民黨部隊。同時，在平漢路以西發動磁武、涉林戰役，牽制住朱懷冰率領的國民黨第97軍。
按照劉伯承的排兵部署，八路軍第129師主力部隊分為左、中、右三個縱隊，分別由王樹聲、李達、桂幹生和周希漢率領指揮，於3月5日從各自的位置上向國民黨第97軍發起猛烈攻擊。
朱懷冰一向是狂妄自大，但這一次，他做夢也沒有想到，八路軍竟然集結了約13個團的兵力向他發起強大攻勢。
與此同時，在程子華和宋任窮的指揮下，平漢路以東殲滅石友三的衛東戰役也打響了。
就這樣，從1940年3月4日到3月8日的五天時間裡，八路軍第129師基本消滅了兩股最為猖獗的國民黨頑固勢力。
此時的蔣介石深知，若是再這樣打下去，以及肯定撈不到什麼好處。於是，他派出國民黨第一戰區司令長官衛立煌出面談判，請求八路軍停止追擊國民黨軍隊。
面對衛立煌的請求，八路軍總司令朱德以大局為重，最終答應了停戰，並劃定了雙方的軍事界線。
1940年春，日軍對太行山抗日根據地的掃蕩次數極少，而在劉伯承的心裡反倒覺得不正常。他斷定，這位新上任不久的日軍華北方面軍司令官多田駿又要開始耍什麼花招了。
多田駿
自從九一八事變後，多田駿擔任偽“滿州國”軍政部第一任最高顧問，後來又擔任日本天津駐屯軍司令，是一個名副其實的“中國通”。
面對這麼一個陰險狡詐的對手，劉伯承拭目以待，他要看看多田駿到底會耍出什麼花招。
讓劉伯承沒有想到的是，多田駿卻一反常態，他並沒有率領日軍進行大規模的“掃蕩”，而是制定了一個“囚籠政策”，開始瘋狂地大興土木，築路挖溝，修建碉堡。
關於多田駿實施的“囚籠政策”，劉伯承用了一個很形象的比喻來解釋，他對大家說：“敵人要用鐵路線、公路線和據點，把我們的抗日軍民捆起來。鐵路線好比是一根根柱子，公路線好比是一條條鏈子，連線鐵路和公路的日軍據點好比是一把鎖子，這樣就造成一個囚籠。日軍企圖用這種囚籠，把我們的抗日軍民統統裝進去。”
這種小兒科的技倆，劉伯承自然不會讓日軍的陰謀得逞，便打起了破壞日軍交通運輸線的主意，他甚至幽默地說：“鐵路和公路就像是日寇身上的大小血管，如果我們切斷這些大小血管，他們就無法來吮吸我們的血液。”
1940年5月5日，劉伯承決定發動一次戰役，主要就是針對日軍的交通運輸線。
八路軍第129師主力部隊聯合太行、太嶽軍區主力，在2萬餘民兵群眾的配合下，同時在南北100餘公里的白晉鐵路上展開了一場聲勢浩大的破襲戰。
時任第129師參謀長的李達後來回憶說：
“僅在一日兩夜之間，我師就將日軍經營了一年的白晉鐵路徹底破壞了100多華里，摧毀大小橋樑50多座，火車一列。”
不僅如此，透過破襲戰役，八路軍還殲滅了日軍350多人，燒燬和搶奪了日軍在兵站內儲存的大量軍用物資，同時還解救出了大批的修路民工。
在聽取了劉伯承戰後的總結匯報後，時任八路軍副總司令的彭德懷從白晉破擊戰的成功經驗中，看到了破擊戰的威力，以及給敵人帶來的沉重打擊。
7月22日，八路軍總部下達了《戰役預備命令》，隨後又接連下發《戰役行動命令》和《破壞戰術之一般指示》。
8月20日晚上20時，位於正太鐵路西段100多公里的鐵路線上，伴隨著一聲驚天動地的爆炸聲響起，拉開了“百團大戰”的序幕。
八路軍發起的這次戰役行動，總參戰兵力達到了105個團，人數更是有約20多萬人。可以說，“百團大戰”實際上是受到了劉伯承之前的白晉破路戰的啟發。而且，在“百團大戰”中，第129師共有38個團參加了戰鬥，擔任著唱主角的任務。
鄧小平、劉伯承
劉伯承指揮八路軍第129師和抗日民眾，在正太路沿線完全貫徹“不留一個車站、不留一座水塔、不留一座橋樑、不留一根鐵軌、不留一根枕木、不留一根電杆，徹底破壞路基，破壞一里鐵路等於消滅一個連的敵人”的口號，對日軍的鐵路大肆破壞。
經過對正太鐵路連續10個晝夜的大規模破襲，被日軍稱為“鋼鐵封鎖線的交通大動脈”完全癱瘓了。
直到這個時候，日軍才突然驚醒過來，多田駿緊急調集重兵向八路軍展開報復，向八路軍各部隊實施“掃蕩”。
在劉伯承的指揮下，周希漢縱隊、陳錫聯縱隊和陳賡率領的第386旅經過六天的反“掃蕩”作戰，擊退了多路日軍的進攻。
9月5日，日軍全部撤退，百團大戰第一階段作戰勝利結束。
當百團大戰第一階段勝利的訊息傳到了延安的毛澤東耳朵裡，他立即給彭德懷發來電報：“百團大戰真是令人興奮，像這樣的戰鬥，是否還可組織一兩次。”
按照毛澤東的指示，彭德懷決定擴大戰果，發動第二階段的作戰。
9月23日，劉伯承奉命率領八路軍第129師向著預定的目標發起攻擊，他們在百團大戰第二階段的任務是“拔除榆社至遼縣公路沿線的日軍據點，並收復榆社、遼縣兩城。”
在劉伯承的指揮下，第129師主力僅用了七天的時間，就完成了第二階段戰鬥的勝利。
10月1日，不甘心失敗的多田駿再次發出作戰命令，派出日軍駐山西第1軍立即進行反攻。
日軍第1軍正是在百團大戰中被打得最慘的一支部隊，在接到多田駿的命令後，他們發誓要徹底消滅第129師主力，一雪前恥。
日軍的大規模報復行動給根據地完成了沉重災難，面對這種情況，彭德懷和左權向各作戰部隊發出了百團大戰第三階段的作戰命令。
從一定意義上來說，百團大戰第三階段是八路軍是被迫應戰的。在這種情形下，劉伯承調動第129師的全部主力在榆樹疙瘩設下埋伏，隨後又在關家堖展開激戰，迫使日軍逐步撤退。
直到1940年12月5日，日軍全部撤出第129師根據地，歷時三個半月的百團大戰勝利結束。其中，劉伯承率領的八路軍第129師功不可沒。
