In den 1920er und 1930er Jahren stieg Klimt Woroschilows militärisch auf. Am 7. November 1925 wurde er Volkskommissar (Minister) für Armee und Marine (im Juni 1934 umbenannt in Volkskommissar für Verteidigung). Er war durch die Militärhilfe in der Türkei damals dort beliebt und bekam Denkmal und verschiedene Ehren. Er kommandierte die Leningrader Front, später gehörte er zum engsten Zirkel um Stalin.