1949 年中华人民共和国成立以来，政府进行了多次机构改革。 1978 年改革开放后又先后于 1982 年、1988 年、 1993 年进行了三次机构改革。始于 1998 年的第四轮改革正在进行之中。从以往机构改革的历史经验来看，中国政府机构存在着五个方面的问题。
一、政府机构设置不稳定
这种不稳定性是有迹可寻的，基本上是在三个层面进行周期性循环：从政府职能上看，是在中央政府与地方政府、政府与企业经济管理权力之间的配置上进行权力下放与上收之间的循环；任何政府机构的设置都以职能为核心，职能的变化直接导致另外两个层面的变化——在政府机构设置上进行分开与合并、撤销与增加之间的循环；在机构内部工作人员的数量上进行精简与膨胀之间的循环。
在 1978 年前后两个时期导致政府机构出现有规律变化的原因有所不同。此前是由计划经济体制运行的内在逻辑决定的 ; 此后则是由于从计划经济体制向市场经济体制的过渡造成的。
计划经济的主要特征是用行政力量来配置资源和主宰经济活动，本应由市场和企业承担的种种经济职能被集中到政府中来 [1] ，它客观上要求一个规模庞大、复杂完备的政府机构以便承担和实现这些职能，其结果必然导致政府行政机构——主要是经济管理机构的不断细分和不断膨胀。就是说，计划经济体制是巨型政府的经济基础 [2] 。美国著名经济学家约瑟夫·熊彼特在 1949 年发表的演讲《大步进入社会主义》中对此有过论述：几乎不可能设想，这种意义上的社会主义 ( 即由国家当局控制生产资料、决定怎样生产、生产什么以及谁该得到什么的那种社会组织 ) 可以没有庞大的官僚机构来管理生产和分配过程。
但这一体制的弊端也很快暴露出来——中央集权过多，统得过死，地方和企业都丧失了自主性和灵活性，经济发展陷入停滞状态，地方政府纷纷要求中央放权。 1956 年 4 月，毛泽东在中央书记处做的题为《论十大关系》的讲话中指出，传统的苏联体制的弊病，主要在于权力过分集中，损害了地方政府、生产单位和劳动者个人的积极性，必须加以改革。他说：“我们不能像苏联那样，把什么都集中到中央，把地方卡的死死的，一点机动权也没有。” [4] 于是，中央提出改革国家行政体制，开始下放权力；一部分由中央管理的企事业单位下放给地方政府，国务院各部门所属企事业单位由 1957 年的 9300 个减少到 1958 年的 1200 个 [5] ；同时，国务院所属机构裁减了 21 个部门，机构减少到 60 个。