1953年3月，苏联最高领导人斯大林去世后，马林科夫、莫洛托夫、赫鲁晓夫等人都想上台执政。但由于斯大林在世时树立了个人权威制，任何人不经他允许，不能插手其他部门的工作，这样就造成了某些权力机构掌握在少数人手中，比如克格勃就被贝利亚垄断。为了夺权，赫鲁晓夫决定动用军队先搞掉贝利亚。此时，他想到了朱可夫。实际上，朱可夫与贝利亚早在斯大林在世时就有矛盾。当时，贝利亚怕朱可夫威胁到自己，将朱可夫列入了一个“军人阴谋集团”。但斯大林并没同意打倒朱可夫，他对贝利亚说：“你不要找朱可夫的麻烦了。我了解他，他不是叛徒。”斯大林此言救了朱可夫，但从此朱可夫就与贝利亚结下了仇。

    1953年6月，一切都按赫鲁晓夫的设计进行，在朱可夫的帮助下，贝利亚被逮捕。

    1955年，根据赫鲁晓夫的提名，朱可夫接替布尔加宁出任国防部长。在1955年的苏共二十大上，朱可夫被选为中央委员、中央主席团候补委员。

    在拿下贝利亚后，围绕国际、国内的重大方针政策，赫鲁晓夫与莫洛托夫、马林科夫等人的矛盾日趋尖锐。赫鲁晓夫力排众议，在苏共二十大上做了反对斯大林的“秘密报告”，双方矛盾更加激化。苏共中央主席团内部，对赫鲁晓夫不满的人渐渐占了上风。他们频频密谋，准备一举罢免赫鲁晓夫的党中央第一书记职务。

    1957年6月上旬，以马林科夫为首，包括莫洛托夫等人在内的高层人士趁赫鲁晓夫率团出访芬兰之机，制订了一个完整的“逼宫”计划。赫鲁晓夫出访一回来，就被告知要召开一个主席团会议，内容是讨论“庆祝列宁格勒建城250周年”。可是，刚一坐下，马林科夫却率先开炮，批评赫鲁晓夫的内政外交政策。紧接着，其他几位也纷纷出击，全盘否定赫鲁晓夫倡导的各项方针政策，攻击赫鲁晓夫违反集体领导原则，独断专行。当马林科夫等人提出就罢免他的第一书记职务进行表决时，赫鲁晓夫抗议：“中央主席团无权罢免第一书记，只有中央委员会才有这个权力！”

    就在斗争进入白热化的关键时刻，朱可夫走了进来。他对与会的主席团委员说：“今天开会前一个小时，马林科夫找我谈话，他要拉拢我！要我站在他那边！”听到这话，会议室顿时哑场了。会议主持人布尔加宁见势不好，只得宣布休会。这样，马林科夫等人试图一举罢免赫鲁晓夫的计划遇到了挫折。在朱可夫的帮助下，于1957年6月22日召开了苏共中央全会，最终给马林科夫集团每人戴上一顶“反党集团分子”的帽子。在赫鲁晓夫论功行赏的名单中，朱可夫自然排在首位。他获得了一生中的最后一次升迁：从候补主席团委员，晋升为主席团正式委员，从而进入了苏共中央的最高决策圈。

    不过，顶峰也意味着下降的开始，朱可夫这位在政治上不甘寂寞的老帅也不例外。

    1957年10月4日，朱可夫离开莫斯科，先乘飞机去塞瓦斯托波尔港，然后，坐苏联巡洋舰“古比雪夫号”赴南斯拉夫和阿尔巴尼亚进行正式访问。

    朱可夫一动身，赫鲁晓夫马上中断了在克里米亚的休养，返回莫斯科。然后，又马不停蹄地赶到基辅军区。在那里，赫鲁晓夫不断地用各种方式，向军人们暗示他准备罢免朱可夫。1957年10月25日，苏共中央主席团通过决议，准备在3天以后召开苏共中央全会，讨论如何加强苏联陆、海军的政治思想工作。接到通知的人都明白，这是准备罢免朱可夫。10月26日，朱可夫返回莫斯科参加了苏共中央主席团会议。后来的苏共中央全会对他提出了严厉批评。赫鲁晓夫发言称：“在对待朱可夫的问题上，应当采取坚决的措施。任何人，如果不服从党的利益，党是不会宽恕他的，不管他有多大的功绩。这应当成为党的生活中的一条法则。”最后，按照既定的程序，以朱可夫在军队中削弱甚至取消党的领导为由，免除了朱可夫的一切职务。

    赫鲁晓夫后来在自己的回忆录中也指出，在击败马林科夫、莫洛托夫“反党集团”之后，朱可夫获得了太大的权力，这开始使领导层的其他成员忧心忡忡。他们认为，朱可夫正企图夺权，国家面临军事政变的危险，并称，朱可夫在一次同军区司令的谈话中，流露出了这种意图。国家领导人是不能让朱可夫在苏联发动这种军事政变的。赫鲁晓夫这一说法，给朱可夫扣上了更为严重的罪名，这就不仅仅是要在军队中取消党的领导了，而是要篡权夺位的罪名。

    这场突变，无疑是朱可夫个人的重大悲剧。从此以后，他赋闲在家。即使1964年勃列日涅夫将赫鲁晓夫赶下台后，朱可夫也没有被起用。朱可夫的晚年就是在凄凉中度过的。直到1995年5月，俄罗斯纪念世界反法西斯战争胜利50周年之际，朱可夫的名誉才被彻底恢复。