长此以往，皇权慢慢被架空，文武百官争相投靠丞相门下，形成利益集团，威胁皇权和政权的稳定。宏才大略的明太祖朱元璋，洞察胡惟庸的谋逆奸情，果断处置，此案连诛者达三万人之多，开国功臣封侯者就有二十多人。胡惟庸案之后，朱元璋痛定思痛，担心后代之君没有自己的胆识和魄力，决心废除丞相，以绝后患！从此，中国封建王朝中的丞相之职，彻底退出了历史舞台。
相权滋生腐败丞相居百官之首，总领朝廷大权，权力过于集中，明之前的御史台或明初的都察院，都很难对丞相行使监督之权，能监督丞相的，只有皇帝一人。但，丞相又大都是皇帝亲近和信任的人，过于信任往往又会导致疏于监督或不予监督。绝对的权力，再加上没有监督，丞相的行为完全依靠本人的人品和修养，很容易滋生腐败或违法行为的发生。
明朝的丞相胡惟庸不但是谋反，也是贪腐的典型，犯了错误求情的官员，没有实职的功臣武将，寻求升迁的官员等等，都竞相投到胡的门下，争相馈送金银珠宝、名马古玩，不计其数。 相权导致皇帝怠政由于丞相总领了朝廷的各项日常政务，在大大减轻皇帝的日常政务工作的同时，也很容易让皇帝滋生安逸的思想和情绪，不利于国家的发展和皇权的稳固。
明朝的开国丞相李善长，勤勉政务，制定国家的各种法律制度、完善全国的税收政策、确定朝廷的官制礼仪，同时监修《元史》，编撰《祖训录》《大明集礼》等等，各项政务事无巨细，都亲自参与过问，被誉为当朝的萧何。以上三个方面既是朱元璋废除丞相的原因，也是丞相制度的弊端。至于实行宰相制的优势，主要是丞相可以帮助皇帝处理日常繁琐的政务，大大减轻了皇帝的工作任务和压力，有利于皇帝集中精力谋划国家的大政方针和长远规划。
历经一千五百多年的宰相制度，为何被明太祖朱元璋废掉？
朱元璋并非一开始就废除宰相的，明朝建立之初，也设有丞相，分左右丞相。洪武十三年，左丞相胡惟庸谋反案爆发，胡惟庸及其党羽伏诛后，朱元璋撤销宰相制度，废除中书省，六部归皇帝直属，并要求后世不许再设丞相职位。朱元璋废除宰相制度与他的性格特点有关，更是历史的必然。换句话说，封建王朝发展到那，宰相制度必然呼呼被废除。
相权对皇权至上的制衡。皇权并非一开始就是至高无上的，三皇五帝不过是部落首领，周天子也是徒有天下共主的虚名，本质只是诸侯国盟主，权利有限。秦始皇建立了皇帝制度，皇帝至高无上，但当时的宰相权利很大，是官僚集团的领袖，对皇权有很大的制约作用，后世的皇帝不断追求至高无上，毫无制衡的皇权，而相权无疑是最大的阻碍。
