朱可夫一动身，赫鲁晓夫马上中断了在克里米亚的休养，返回莫斯科。然后，又马不停蹄地赶到基辅军区。在那里，赫鲁晓夫不断地用各种方式，向军人们暗示他准备罢免朱可夫。稳定了军队后，赫鲁晓夫从军区回到莫斯科，在1957年10月19日主持召开主席团会议，通过了《关于改进苏联陆、海军党的政治工作的决议》。然后，迅速在各军区、舰队，及各加盟共和国和地区召开的党的积极分子会议进行传达学习。《决议》是冲着朱可夫而来的，这一点已不言自明。
1957年10月25日，苏共中央主席团通过决议，准备在3天以后召开苏共中央全会，讨论如何加强苏联陆、海军的思想政治工作。接到通知的人都明白，这是准备罢免朱可夫。10月26日，朱可夫返回莫斯科参加了苏共中央主席团会议。后来的苏共中央全会对他提出了严厉批评。赫鲁晓夫发言称：“在对待朱可夫的问题上，应当采取坚决的措施。任何人，如果不服从党的利益，党是不会宽恕他的，不管他有多大的功绩。这应当成为党的生活中的一条法则。”最后，按照既定的程序，免除了朱可夫的一切职务。
罪名是“要夺权”
据《独立军事评论》披露，苏共中央全会通过的决议，给朱可夫列举的罪状有以下几条：1、破坏苏共有关军队建设的原则，让部队脱离党的领导;2、在军队中搞个人崇拜;3、党性不纯，没有正确地理解党对他过去功绩的评价;4、在理解苏联外交政策和领导国防部工作方面，都倾向于冒险主义。归纳这几点，要害在于——朱可夫在军队中削弱、甚至取消党的领导。
赫鲁晓夫当时决定把军队置于党的领导之下，加强军队中党的领导和政治工作，让政委的权力高于军事指挥员。朱可夫却拒不执行中央这个方针，坚持军队首长制，反对在军队中建立党的领导。这与赫鲁晓夫的想法背道而驰。
另外，朱可夫的另一个罪状是，在没有得到中央主席团同意的情况下，朱可夫擅自成立了一所敌后袭击特种学校，并招收了2000多学员，这所学校直接隶属于国防部。对此，赫鲁晓夫表示：“敌后破坏，鬼知道是用来干什么的，鬼知道他们会实施什么样的破坏行动。”言下之意是，朱可夫可能利用这个特种学校来搞军事政变。
后来，朱可夫在苏共中央全会上承认，在未经批准的情况下成立这一学校是个错误，但他否认指控他是在秘密情况下建立这一学校的。因为他曾先后两次就此问题向赫鲁晓夫做过汇报，但赫鲁晓夫却不承认。由于没有旁证，朱可夫显然陷入了被动。另外，朱可夫曾说过这样一句话：“没有我的命令，谁也无权动用军队的一兵一卒。”他此言明显是将自己的权力凌驾于党的领导之上，也难怪赫鲁晓夫非常不满。
赫鲁晓夫后来在自己的回忆录中也指出，在击败马林科夫、莫洛托夫“反党集团”之后，朱可夫获得了太大的权力，这开始使领导层的其他成员忧心忡忡。他们认为，朱可夫正企图夺权，国家面临军事政变的危险。并称，朱可夫在一次同军区司令的谈话中，流露出了这种意图。国家领导人是不能让朱可夫在苏联发动这种军事政变的。赫鲁晓夫这一说法，给朱可夫扣上了更为严重的罪名，这就不仅仅是要在军队中取消党的领导了，而是要篡权夺位的罪名。
1995年才彻底恢复名誉
这场突变，无疑是朱可夫个人的重大悲剧。从此以后，他赋闲在家。即使1964年勃列日涅夫将赫鲁晓夫赶下台后，朱可夫也没有被起用。朱可夫的晚年就是在凄凉中度过的。
实际上，赫鲁晓夫之所以要解除朱可夫的职务，是因为两人在军队改革问题上发生了不可调和的矛盾。赫鲁晓夫以改革者自居，军队的改革是他全盘计划中不可或缺的重要环节。而朱可夫则死死抱住军队这一摊，不允许赫鲁晓夫插手，更不允许他搞改革。
于是，两人顿时势成水火。朱可夫曾两次动用军队帮助赫鲁晓夫巩固政权，这无疑是他的功劳。但是在战胜了敌手之后，赫鲁晓夫也感到了恐惧。因为赫鲁晓夫也明白，朱可夫也有可能帮别人打垮自己，因为他有这个实力。就这样，赫鲁晓夫对威望日增、权倾一方的朱可夫开始不放心了，这是他要解除朱可夫国防部长职务的根本原因。
朱可夫元帅直到生命的最后一刻也未被平反，不仅如此，继勃列日涅夫之后执政的契尔年科、安德罗波夫、戈尔巴乔夫等历届领导人都没给朱可夫平反。直到1995年5月，俄罗斯纪念世界反法西斯战争胜利50周年之际，朱可夫的名誉才被彻底恢复，他的大型青铜塑像被竖立在莫斯科红场附近的马涅什广场，俄罗斯总统叶利钦亲自为塑像主持了揭幕仪式。
为俄罗斯人民做出巨大贡献的英雄，俄罗斯人民是不会忘记的。