1945年8月15日，日本無條件投降。9月9日，日本中國派遣軍總司令官岡村寧次向中國陸軍總司令何應欽遞交降書。按照《波茨坦公告》和國際法規定，日本須要永久削除軍國主義，軍隊完全解除武裝後驅出被侵略國的國土，遣返日本。日本華北方面軍第一軍司令澄田四郎、第一軍參謀長山岡道武、參謀巖田清一、山西省政府顧問輔佐官城野宏、第114師團師團長三浦三郎和山西產業株式會社社長河本大作秘密策劃將日軍一部分勢力留在中國，作為日後再次侵略的伏兵。事實上，岡村寧次在簽訂投降書以後也曾經向何應欽提出，可以讓華中長江與黃河的30萬日軍“暫不繳械”，幫助國軍圍剿中共。這一提議被中國政府拒絕。但閻錫山認為自己派系的軍隊實力不夠，希望能借助日軍作為攻打中共的本錢。而駐山西的日軍也希望藉助山西省的資源達到戰敗後日本的復興。因此，閻錫山與澄田四郎等駐山西日軍高層達成協議，將一部分日軍在閻錫山的庇廕下繼續作為成建制的軍隊留在山西。
1945年8月上旬至9月上旬，閻錫山在與澄田四郎等人密談時已經提到“日本武力寄存問題”。不久之後在密談中達成協議。10月，閻錫山和日本華北方面軍組成“合謀社”，具體策劃留駐日軍問題。日軍在名義上採用“個別發動”、“志願殘留”的方式，澄田四郎等人成立了“山西地區日本官兵善後聯絡部”，實際上仍然透過軍中電令方式將留下的軍人收編指揮。然後閻錫山以組建“特務團”、鐵路公路修復部隊的名義向聯絡部發出征用令。1946年1月至2月，閻錫山分兩次徵用日軍部隊共11000人。為了讓日本軍人自願留下，城野宏製作了《日本人的立場》的小冊子在駐山西日軍傳播，其中內容大體是：日本不可能永遠戰敗，美蘇之間爆發戰爭時日本就可以乘機復興，而本土日軍解除武裝後難以重新準備，所以須要在山西保留武力，臥薪嚐膽。另一方面中國赤化會影響天皇制度，所以出於愛國應當幫助國軍。而且日本戰後社會必然動盪，而留在山西的話，閻錫山可以提供優厚待遇等等。此外，中層軍官也對屬下進行了強迫、恐嚇、威脅、誘騙等手段，使一部分日軍留下。4月，響應徵用令的日軍達到六千七百人左右，第一軍的多位高層則成為了閻錫山的軍事顧問。
山西軍收編殘留日軍的情況也被中共等各方察覺，盟軍負責調停的三人組也開始調查此事。為此日本華北方面軍明面上下令停止日軍攜帶武器滯留中國，但暗中仍然秘密執行殘留計劃，同時也將大量軍人的身份改為“技術人員”，讓他們能夠以正常的身份留在中國。
由於計劃洩漏，山西軍收編的殘留日軍在1946年上半年只能以分散隱蔽的方式存在。1946年5月起，閻錫山將各個分散的日軍武裝組編為山西保安總隊。6月起設立總司令部，由中國人出任總司令，而由巖田清一做高階參謀並掌握實權。1947年3月起，總司令部改名為“山西野戰軍司令部”。1947年6月起又改編為“陸軍暫編獨立第十總隊”，1948年3月後改為“太原綏靖公署教導總隊”。成為第十總隊後，日軍部隊掌握了很大的獨立指揮權、人事任免權等權力，提出了“復興皇國，恢弘天業”的宗旨。司令部辦公住所沿用原第一軍司令部的舊址，自稱“復興樓”。第十總隊人員編制以日本軍人為骨幹，大部分為中國軍人（總計日本人2447人，中國人7279人）。
1949年，隨著解放軍攻下山西，山西殘留日本軍隊也被擊潰。1949年解放軍攻下太原後，最後一支殘留日本部隊被擊敗，大部被俘。原第一軍司令官澄田四郎在閻錫山安排下潛回日本。大部分被俘日軍在1954年後被遣返日本。
被我軍俘虜的閻錫山留用日軍
後來鬼子還寫了本書《山西獨立戰記》。
只能說閻錫山真夠無恥的，為了個人私利，這種事情都幹得出來。
