在毛泽东后期的阶级斗争理论中，他主张打破知识分子的一统天下，认为中国的知识分子虽然经过二、三十年的改造，但世界观仍基本上是资产阶级的。打破知识分子一统天下的办法之一，就是让工人和贫农、下中农“渗”进知识分子的汪洋大海中。也正是在这样的背景下，陈永贵作为一个半文盲才能荣登副总理的宝座。
1975年1月中旬，第四届全国人民代表大会第一次会议召开，陈永贵被任命为国务院副总理。
陈永贵上台后，分工管全国的农业，天天要看文件，要做指示、做报告，不仅如此，他每天还要批阅很多的材料，这些材料都由他从昔阳县带到北京的秘书先看，然后挑重要的向他说说，或把最重要的地方划出来给他看，认不得的地方给他念念。他同意的，就在材料上划个圈，或写个“同意”。
“文盲总理”最头疼的事情就是作报告。每当此时，他就先让“秀才”们将他的“意思”谱成讲稿，但文字稿他是不会念的，于是，昔阳县专门为他印了一种稿纸——每一个格子抵得上普通稿纸的四个格子大，行与行之间也空得宽，每一张纸只有一百个字左右。县里有那么几个熟悉他认字习惯的秀才，把他的讲稿用正楷抄在这种 稿纸上，他不认得的字，要在空行里注上他认得的同音别字。这种闹剧，恐怕也只有文革时候的中国才有.
到文革后期，陈永贵的威望臻至顶峰，当时，除了毛泽东和周恩来，没有一个人敢公开批评他。“四人帮”和其他一些人背后也骂陈永贵，但不敢公开批评，更不敢见诸文字。在毛泽东去世前，对陈永贵和大寨，全国都是一片表扬声。
从副总理之位回归农民本色
文革结束后，华国锋喊出了“两个凡是”，毛泽东余威尚严，“农业学大寨“运动也因此仍在原有轨道上运行，并且在某种程度上有所强化，而陈永贵也继续得到中央重用。
1977年，中共召开十一大，陈永贵继续当选为中央委员、中央政治局委员、国务院副总理职务，仍主管农业工作。在这段时间里，陈永贵继续用过去的思维和口号，推动全国农业学大寨、“普及大寨县”的工作。他的这一工作思想得到了时任国务院总理的华国锋的支持。
1978年5月，中国开展了关于真理标准的大讨论。这次讨论，也包括农业学大寨、“普及大寨县”运动。各种意见反映到中央后，中央认为这是事关中国农业发展道路的问题，时已进入中央主持工作的邓小平对此表态，称中央对在农业学大寨、“普及大寨县”的争论，暂不发文件，不下结论，而是由山西省委按照真理标准去实事求是地总结农业学大寨、“普及大寨县”的经验和教训。
1980年上半年，山西省委对“农业学大寨“、“普及大寨县”的工作进行总结，后来还写出了《关于全省农业学大寨经验教训的初步总结》。文件指出:大寨“左”的路线“需要体现它的典型;大寨由于其代表人物的关系，也就很自然地走向反面，成为农业战线推行‘左’倾路线的典型”，“文化大革命”以来，“在大寨和昔阳县推行左倾路线，主要由陈永贵负责”(1980年8月 24日山西省委《关于全省农业学大寨经验教训的初步总结》)。
后来，邓小平向山西省委转发了这一文件，不久，陈永贵辞去了中共中央政治局委员和国务院副总理的职务。在1982年党的十二大会议上，“下台”的陈永贵没能当选为中央委员，但他住在北京部长楼里，生活待遇和从前一样。
虽然退下了“总理”的神坛，但他仍保持着农民本色——哪里有劳动，就往哪里钻;他担任东郊农场顾问后，多次到农场帮助那里分析农业生产情况。
后记
从一名普通的农民、半文盲登上副总理之位，身上难以摆脱的始终是中国农民最纯朴的土地情结。在他任副总理之时，每次回大寨，都不让北京的警卫战士同行，他说:“我是个农民，回家劳动，你们还能给全国农民都派上警卫战士吗?” “解甲归田”以后，没有了中央大员的头衔，却得到了最轻松的自由!
1986年3月26日，73岁的陈永贵老人去世。
