1949年，新中國成立，當時，新中國最高的權力和立法機構是中央人民政府人民委員會，其執行機構稱之為政務院，也就是今天國務院的前身。首任政務院總理便是周恩來。
新中國頭五年的大事多與此重要機構相關，但人們對政務院在當時國家機構體系中的地位如何，它有什麼特點，起過什麼作用，與今天的國務院有什麼區別等問題，卻不很清楚。
1949年9月22日，董必武在《中央人民政府組織法的草擬經過及其基本內容》中，對政務院名稱的由來作了說明：“關於政務院的名稱，原來有人主張用國務院，但國務院包括軍事，不太合適；有人主張用行政委員會，但中央人民政府委員會是委員會，最高行政機關下還有指導性的委員會一級，其下還有各種委員會，這樣名稱容易混淆。至於部長會議或部、會長會議也不合乎我們的實際，在我們的最高行政機關中，部長不一定是政務委員。所以最後仍採用了政務院的名稱。”
共產黨人經過了二十餘年的腥風血雨的鬥爭，終於從農村走進城市，開始勾畫一個嶄新的中國。但從槍林彈雨中走出來的中共黨人在管理，治理一個大國的經驗上，尚為稚嫩，更是為了適應當時一邊進行全國解放戰爭的收官，一邊開始進行有效的行政管理，因此對新中國最高政務執行機構的名稱慎之又慎，最後作為過渡性質，設立了政務院。採用政務院而不用其他名稱，原因有三：首先由其許可權決定的，它不包括軍事，即所屬機構中不含國防部。因為新中國成立之初，戰爭仍在繼續，軍事領導權屬於人民革命軍事委員會。其次為了使概念清楚，不致混淆。最後有不屬於政務院組成人員的人在政務院兼職的情況。一些部長或主任委員在政務院屬於兼職，但他們卻不是政務委員，不屬於政務院組成人員。
當然，也以此造成了當時政務院中組成人員來源多元化，有打江山的革命功臣，有具有一定學識的進步青年，更有民主黨派和曾在舊政府擔任各級軍政要職的人員；交叉任職兼職現象，有既在軍隊又在政務院擔任職務的，也有多部門兼職的。例如時任政務委員的曾山就同時兼任紡織工業部部長、商業部部長等；具有過渡性和相對不固定性，戰爭還在繼續，經濟建設百廢待興，一個新生的政權在管理國家的最初還在摸索中。
當硝煙逐漸散去，新中國迎接即將到來的大規模的有計劃的經濟建設和文化建設，進一步加強中央人民政府的集中統一領導，1952年11月，在中央人民政府之下，增設了國家計劃委員會，這是與政務院平行的機構。國家計劃委員會的負責人稱主席。高崗就曾是計委主席。
高崗
國家計劃委員會成立後，重工業部、第一機械工業部等13部劃歸其領導。這樣，國家計劃委員會就在領導國家經濟建設工作的許多重要方面取代了政務院。當時國家計劃委員會還有“經濟內閣”之稱。
1954年，新中國進入全面建設時期，各地政權組織已經建立健全，國家各項事務正在走向正軌和穩定。普選產生了全國人民代表大會，頒佈了《憲法》和《國務院組織法》。根據憲法規定，政務院改稱國務院。國務院即中央人民政府，是最高國家權力機關的執行機關，是最高國家行政機關。國務院由全國人民代表大會產生，對全國人民代表大會負責，並在全國人民代表大會及其常務委員會的監督下，統一領導和管理全國的行政事務。
最明顯的差別就是過去的政務院不是中央人民政府，它只是中央人民政府的一個組成部分。而新改制而成立的國務院即為中央人民政府，是最高國家行政機關。周總理從政務院總理成為國務院總理。
隨之而來的國務院各個機構開始充盈，1954年11月，根據國務院通知，成立了八個辦公室。
國務院第一辦公室，協助總理掌管內務部、公安部、司法部和監察部的工作。首任主任羅瑞卿（1955年被授予大將軍銜）。
羅瑞卿
國務院第二辦公室，協助總理掌管文化部、高等教育部、教育部、衛生部、新華通訊社、廣播事業局的工作。首任主任林楓（無產階級革命家，曾任第二屆、三屆全國人大常委會副委員長）。
林楓
國務院第三辦公室，協助總理掌管重工業部、第一機械工業部、第二機械工業部、燃料工業部、地質部、建築工程部的工作。首任主任薄一波（無產階級革命家，新中國經濟工作的卓越領導人）。
薄一波
國務院第四辦公室，協助總理掌管紡織工業部、輕工業部、地方工業部、勞動部、中央手工業管理局的工作。首任主任賈拓夫（無產階級革命家，新中國經濟工作的卓越領導人）。
賈拓夫
國務院第五辦公室，協助總理掌管財政部、糧食部、商業部、對外貿易部、中國人民銀行的工作。首任主任李先念（無產階級革命家，黨和國家的卓越領導人。曾任國家主席，全國政協主席）。
李先念
國務院第六辦公室，協助總理掌管鐵道部、交通部、郵電部、中國民用航空局的工作。首任主任王首道（無產階級革命家、新中國交通運輸事業的開拓者和奠基人之一）。
王首道
國務院第七辦公室，協助總理掌管農業部、林業部、水利部和中央氣象局的工作。首任主任鄧子恢（無產階級革命家，新中國農業工作的領導人。曾任中共農村工作部部長，政務院副總理，全國政協副主席）。
鄧子恢
國務院第八辦公室協助總理掌管對資本主義工商業進行社會主義改造的工作。首任主任李維漢。
李維漢
1959年6月，根據國務院全體會議第九十次會議決定，國務院八個辦公室撤銷，以後又分別成立過國務院政法辦公室、國務院文教辦公室、國務院工業交通辦公室、國務院財貿辦公室、國務院農林辦公室。
歲月變遷，國務院各類辦公室也隨著新中國的不斷髮展而變化。
