苏军骑兵部队在与德军作战
1941年6月22日,德国法西斯突然袭击苏联,苏联卫国战争开始。6月23日,苏联统帅部大本营成立,布琼尼成为大本营成员。6月25日,大本营预备队的4个集团军组建成统帅部预备队集团军群,任命布琼尼为司令。当晚,布琼尼未能来得及与家人告别,便急忙赶往司令部所在地布良斯克,立即投入紧张的工作。由于前线战局恶化,7月1日,各预备集团军划归西方面军指挥,铁木辛哥被任命为司令,布琼尼和叶廖缅科被指派为他的副手。 7月9日晚,布琼尼奉斯大林之召返回莫斯科。7月10日,国防委员会将统帅部大本营改组为以斯大林为主席的总统帅部(8月8日,改名为最高统帅部)大本营,布琼尼仍为大本营成员。同日,根据德军进攻所形成的三个主要战略方向,总统帅部成立了作为战略领导机关的各方向总指挥部,任命铁木辛哥为西方向总指挥部总司令,统一指挥西方向苏军的作战;任命伏罗希洛夫为西北方向总指挥部总司令,统一指挥西北方向苏军的作战;任命布琼尼为西南方向总指挥部总司令,统一指挥西南方面军和南方面军的作战行动,并负责黑海舰队的作战指挥。给布琼尼送行时,斯大林强调:无论如何要守住乌克兰首都基辅,但暂时没有预备队,不管多么困难也不用来要。
希特勒对乌克兰的产粮地区和工业地区以及高加索的石油垂涎已久。战争开始后,德国南方集团军群一路击溃苏军抵抗,直奔基辅而来。德军和苏军以攻、守基辅为中心,在广阔的乌克兰战场展开了持续、激烈的基辅战役。这时,布琼尼指挥的西南方面军和南方面军在以前的防御战中,已遭到严重削弱,各方面的力量均不如德军。为守住基辅,布琼尼指挥苏军实施战略防御,顽强死守。在基辅战役的紧急关头,布琼尼一直在担负正面防御的西南方面军指挥所,甚至多次亲临前沿阵地,指挥部队顽强抵抗德军的进攻,并在乌曼地域重创德军。基辅战役正酣之际,希特勒又命令德国中央集团军群所属的古德里安第2装甲集群南下,从第聂伯河东岸迂回包围苏军基辅集团,和德国南方集团军群对其实施钳形夹击。苏联最高统帅部建立了以叶廖缅科为司令的布良斯克方面军,令其消灭古德里安装甲集群,但布良斯克方面军未能完成任务。古德里安装甲集群迅速突破布良斯克方面军的防御,进而从苏军基辅集团后方向西南方面军实施突击。
早在7月底,苏军总参谋长朱可夫就考虑到在基辅方向双方力量对比悬殊,并洞察到古德里安装甲集群南下的动机和要害,便直截了当地向斯大林提出放弃基辅,将基辅集团撤至后方纵深进行防御,以免遭受重大损失。但斯大林过分相信叶廖缅科关于必定战胜古德里安集团的坚决保证,不同意放弃基辅。