建國初期，我軍組建了3個非常重要的部門，就是的總參謀部、總政治部和總後勤部，一般稱為解放軍三總部，此後短暫組建了幾個新的總部，但是在1957年時又恢復到了“三總部”的狀態，此後解放軍三總部維持了三十餘年，中央軍委於1998年又新設立了總裝備部，這就是世人非常熟悉的軍委四總部了。
既然三總部能維持那麼多年，為什麼還要設立總裝備部呢？
新中國成立後，我軍一直沒有專門武器裝備主管機構，相關職權分散在總參謀部、總政治部、國防科工委這3個部門中，這種體制在過去並沒有很大的問題，但是進入到九十年代後，我軍面臨同時開展機械化和資訊化的局面，這是建立在高精尖武器裝備的基礎上的，此時如果沒有統一的裝備領導機關，是很難進行下去的。
特別是涉及到海軍的各型別艦船、空軍各型別戰機，由於技術要求非常高，牽涉到的部門非常多，必須要有一個總部居中協調。有鑑於此，1998年軍委以國防科工委為基礎，將總參謀部、總後勤部的有關裝備職能部門合編為總裝備部，和總參、總政、總後並稱軍委四總部，而且四總部的主要領導均躋身軍委委員序列，是準副國級，級別低於軍委副主席，但是高於正大軍區級軍官。
軍委之所以設立總裝備部，原因是多方面的。
一、軍隊資訊化和現代化建設的需要。海灣戰爭可謂是平地一聲雷，讓我軍見識到了現代化武器裝備，在戰爭中發揮著什麼樣的作用。以美國空軍來說，其所裝備的戰鬥機和轟炸機，於當時世界上絕大多數國家來說，都是科幻般的存在。
美國空軍發明的超視距作戰、戰場單向透明、非對稱作戰等理念，在海灣戰爭中發揮了關鍵作用，在伊拉克軍隊還在努力尋找美軍身影時，美國空軍卻在伊拉克軍隊看不見的地方，給他們致命一擊。儘管伊拉克軍隊的地面部隊很龐大，實力也算可以，但是在美軍空中優勢面前，完全是不堪一擊。
美國人的這種作戰理念，也是建立在現代化武器裝備之上的，也給了我軍極大的警示和啟發，過去那種依靠地面大兵團作戰的思維，已經不適用了。
二、適應部隊改革的需求。八十年代我軍推行了百萬大裁軍，大力壓縮陸軍規模，其中被裁剪的部隊，絕大部分是陸軍。很顯然再往後的重點發展方向是海軍和空軍，以及二炮。
當時我軍海軍和空軍的武器裝備，和美軍、俄軍相比，存在著明顯差距，空軍的主力戰機是，殲7、殲8和從俄羅斯進口的幾十架蘇27，主力轟炸機還是H6這種老舊機型，預警機也完全沒有。海軍的主力戰艦仍然停留在六七十年代的水平，不管是驅逐艦還是護衛艦，整體水平遠不如美軍、俄軍，甚至還需要從俄羅斯進口驅逐艦。
二炮的情況，也和海空軍類似，裝備發展較為落後。而成立總裝備部就是為了解決這些問題的，想辦法提高海空軍和二炮的裝備水平。
三、集中力量辦大事。在航空航天領域，是最為明顯的。我國的載人航天工程，也是在總裝備部成立後，正式啟動的。之前只是做了一些籌備性質的工作，總裝備部大力推進了我國航空航天事業的發展。
因為我國主管航空航天工程的單位就是總裝備部，包括世人熟知的航天員大隊，也是隸屬於總裝備部旗下，包括各種衛星的發射，以及其它航天工程，都是在總裝備部的領導下發展的，而且成績斐然。
隨著時代的發展，前些年總裝備部被軍委裝備發展部所取代，儘管名稱變了，但在職責沒變，仍然是全軍武器裝備和我國航空航天工程的主管單位。
