在1941年形势最为危急的岁月里，苏军作战部队急需受过训练的预备队以补充损失。而组建步兵师需要一段较长的时间（因为步兵师人数较多且编制复杂），作为一种迫不得已的临时性措施，苏军开始组建大量步兵旅应急。步兵旅的编成较小，而且编制较为简单，只有“旅－营－连－排－班”5级编制，步兵师则有“师－团－营－连－排－班”6级编制。步兵旅所需指挥人员较少，这对于当时极度缺乏有经验指挥员的苏军来说意义重大。步兵旅下辖3个步兵营，2个炮兵营，1个自动枪连和相应的勤务保障分队，其总人数约为5000～6000人。到1941年底，苏军共组建了159个步兵旅。
同其他军兵种一样，在第一阶中苏军诸兵种合成兵团（军团）编制也是从大规模向小规模转变。这一时期，苏军诸兵种合成兵团（军队）缩编过快且结构不合理。例如：诸兵种合成集团军缩编后没有建制内的炮兵，只能依靠临时加强；步兵师内的炮兵逐级减少，使得各级炮兵火力都很弱。这一切都严重影响了战斗力的发挥。
1942年的大部分时间里，诸兵种合成集团军编制没有大的变化。只是到1942年底苏军恢复军一级编制的时候，集团军才由“集团军－师”体制改变为“集团军－军－师”体制。此外，1942年一种新型的“集团军－突击集团军”开始出现在苏军序列中。突击集团军与诸兵种合成集团军主要区别为编有较多的坦克、火炮和迫击炮。组建突击集团军的计划早在30年代苏军中就有人提出，当时拟定的突击集团军编成包括：4～5个步兵军、1～2个机械化军、1个骑兵军、7～8个统帅部预备队炮兵团、7～8个高炮营，还可以配属一些空降兵部队，编制相当庞大。其任务是突破敌防御的战术地幅，向100公里的纵深发展进攻。但在当时，这样的突击集团军并没有建立起来。1941年底，苏军在莫斯科城下开始反攻，急需有较强突破能力的突击集团军。在苏军建立的全部5个突击集团军中，有4个是在1941年底到1942年初建立的（只有突击第5集团军组建于1942年12月）。这4个集团军实际上都没有达到战前制订的编制水平。由于当时苏军极度缺乏坦克、火炮等装备，这4个突击集团军都是以步兵为主体，再加上一些小规模的坦克、炮兵部队。例如：突击第1集团军编有7个步兵旅和若干滑雪、炮兵部队；突击第4集团军编有5个步兵师、1个步兵旅和若干滑雪、坦克部队。另2个突击集团军大体也是如此。
苏军步兵师的编制根据1941年—1942年冬季的战斗经验，进行了一些补充修改。1942年3月的编制规定，师炮兵团由2营制改为3营制，增加第3个炮兵营（8门火炮）。这个炮兵营由1个762毫米加农炮连和1个122毫米榴弹炮连组成。师属独立反坦克炮营增加1个反坦枪连，每个步兵营内也编有1个反坦克枪连。步兵排的编成也有所扩大。步兵师还增编了一个负责培训军士的独立教导营。1942年3月编制与1941年12月编制相比，在人员增加不多的情况下，步兵的自动武器增加了233，迫击炮增加了16，火炮增加了37，火力得到了很大增强。1942年7月，又对步兵师的编制进行了一些修改。由于迫击炮集中到步兵团（这在防御战中是适宜的，可以集中火力打击威胁最大之敌），使得步兵营以下分队不能得到迫击炮火的及时支援，这就发挥不了迫击炮作为步兵伴随火炮的作用。此次修改重新恢复了步兵团的120毫米迫击炮连、步兵营的82毫米迫击炮连和步兵连的50毫米迫击炮排。这样，步兵分队的火力得到了加强，保证了其在战斗中可以独立作战。此外，步兵师的人员缩减了2049人（主要是勤务人员），但武器几乎还保持了原来的数量。
1942年4月，步兵旅也进行了改编。步兵旅由3个步兵营增加为4个步兵营，使旅的作战能力得到很大提高。同年7月，1个自动枪营取代了步兵旅中的迫击炮营。此外，步兵旅还增编了1个反坦克枪连。这时，步兵旅内的自动武器数量增加了近一倍，反坦克武器增长了2倍多。1942年3月，为了在苏德战场的北段作战，组建了滑雪旅。按编制，每个滑雪旅编有5个滑雪营、1个迫击炮营和1个反坦克枪连。1942年中，苏军还组建了一定数量的摩托化步兵旅。这些旅采用统一编制，每旅编3个摩托化步兵营、1个炮兵营、1个高炮营和一些勤务保障分队。这些摩步旅一部分编入了坦克军，其余则作为独立的摩步旅。其与坦克军属机械化旅的主要区别在于，编成内没有旅属坦克团。
1941年10月起，苏军还组建了海军步兵旅。它不同于海军陆战队，它是由从海军中抽调的海岸部队和舰上人员组成的。这是因为当时苏联红海军没有承担较重的作战任务，其人力大量闲置，因此被抽调参加陆上作战。海军步兵旅由3个步兵营、2个炮兵营、1个迫击炮营及数个保障分队组成，编制人数近5000人，其火力比陆军步兵旅要强一些。到1942年底，苏军共组建了大约40个海军步兵旅，他们在作战中赢得了“黑色死神”的称号（因为其人员仍着黑色海军制服且作战极为英勇）。从1943年9月起，海军步兵旅被改编成了步兵师。
这个阶段苏军诸兵种合成兵团（军团）的编制处在探索阶段，有的编制变化甚至出现反复，比如步兵团、营的迫击炮分队。但总的看，由于苏联工业提供的装备数量增多，苏军各级编制单位的作战能力还是比1941年提高很多。而且对军队编制的不断探索，将会在1943年以后形成相当成熟的编制体制。
从1943年起，苏军诸兵种合成集团军的编制逐年扩大。由于在1942年底恢复了步兵军的编制，所以在1943年以后诸兵种合成集团军内通常编有3个步兵军。但某些情况下也有例外，比如维帖布斯克—奥尔沙战役中波罗的海沿岸第1方面军的近卫第6集团军，和博布鲁伊斯克战役中白俄罗斯第2方面军的第49集团军，都编有4个步兵军。而在辅助方向进攻的集团军——白俄罗斯战役中的第33集团军和突击第4集团军则仅辖有2个步兵军。1943年4月，集团军开始拥有自己的建制炮兵——1个加农炮兵团、1个迫击炮团、1个反坦克歼击炮兵团和1个高射炮兵团（高射炮兵团由4个高炮连和1个高射机枪连编成，装备有37毫米高炮16门、大口径高射机枪12挺）。1944年，集团军编成内又增加了1个2团制加农炮兵旅和1个独立坦克团。
到战争末期，诸兵种合成集团军的编制开始稳定下来。其编成包括：3～4个步兵军（7～12个师）、1～3个独立坦克旅或独立坦克团、1个集团军属加农炮兵旅以及其他一些兵团或部队。这时的诸兵种合成集团军编制人数通常在10万人左右。但也有少数例外，柏林战役中崔可夫指挥的近卫第8集团军拥有162759人，集团军的作战能力达到了很高的水平。苏军在第二次世界大战中，还组建过一些独立集团军（例如滨海独立集团军和第7、第51、第56集团军）。这些集团军担负单独的或次要方向上的作战任务，它们并不列入某个方面军的编成，其编制与其他诸兵种合成集团军大同小异，在此不再赘述。各突击集团军也在1943年以后变成了真正的“突击集团军”，其编成内开始拥有大量坦克、火炮和迫击炮，例如1942年12月组建的突击第5集团军拥有3个步兵师、1个坦克军、1个机械化军和大量炮兵部队。在战争后期，各突击集团军的编成又有进一步扩大，从而拥有了比其他诸兵种合成集团军更强的突破能力。在卫国战争中，苏军还组建过相当多的预备集团军，其主要任务是为作战军队组建兵团或为其补充人员、武器装备，有的还担负一定地区的防御任务。从1943年起不再组建专门的预备集团军。某些集团军损失惨重需要补充时，就编入最高统帅部预备队并保留原来番号，补充完毕后重新归入作战方面军的编成。
步兵部队的高级兵团——步兵军在1942年底恢复后，其编制也日臻完善。1944年的步兵军下辖3个步兵师、1个军属炮兵团（装备122毫米加农炮）和工兵营、通信营等勤务保障分队，有的近卫步兵军还有炮兵旅。1个步兵军编有27个步兵营、300～400挺重机枪、450～500门迫击炮和300～400门火炮。到1943年底，苏军共拥有161个步兵军军部，其中36个是近卫步兵军。自此之后，苏军步兵军的编制直到战争结束再没有发生重大变化。
1942年12月，苏联国防人民委员部批准实行步兵师新编制。新编制规定建立两种不同类型的步兵兵团——步兵师和近卫步兵师。步兵师每师共有9435人。与1942年7月编制相比，新编制恢复了步兵营属的45毫米反坦克炮排，后来这种炮被威力更大的57毫米反坦克炮所代替。1943年7月，步兵师的编制又做了一些修改，冲锋枪的数量增加了321支，步枪则减少了200支，使步兵近距离内的火力密度得到很大提高。1942年底实行的近卫步兵师编制，共有人员10670人，比普通步兵师要多1200余人。在武器装备方面，近卫步兵师比普通步兵师要强得多。近卫步兵师装备的自动武器要比普通步兵师多32。其炮团编有9个连（36门火炮），而普通步兵师则编有8个连（32门火炮）。也就是说在炮团的第3营中，近卫步兵师是3连制而普通步兵师为2连制。
1944年12月，苏军再次颁布步兵师的新编制。这个编制带试验的性质，因此只有少数步兵师按照新编制进行了改编。大多数步兵师仍然采用1943年的编制。新编制把师属的3营制炮兵团改为3团制炮兵旅（装备20门762毫米加农炮、20门122毫米榴弹炮和20门160毫米迫击炮）。这使新编制步兵师的炮兵火力大为加强，其一次齐射的总弹重达到了20404公斤，而1943年编制的步兵师只能达到11007公斤，增长了将近1倍（其中160毫米迫击炮增加最多）。该编制的改进之处还包括：步兵师增编1个独立自行火炮营（装备16门su-76自行火炮）；独立反坦克歼击炮兵营的762毫米加农炮改为57毫米反坦克炮；师独立工兵营由2连制改为3连制。师的编成内编入1个独立后备步兵营；步兵团增加第2个自动枪连和1个高射机枪排，并取消了团反坦克枪连；步兵营的45毫米炮兵排改为炮兵连，机枪连增加了3挺重机枪。执行新编制的步兵连人数减为104人，但整个步兵师的人数却比1943年增加了2400人。同时，步兵分队的火力要远远超过1943年的步兵师，新编制步兵师步机枪1分钟发射弹数为492720发，1943年的步兵师只能发射234810发，增长了1倍多。但这个新编制直到1945年6月份，才稍作修改后颁发所有步兵师实行。这时苏德战争已经结束了，日本关东军则结结实实尝到了它的强大威力。
在苏德战争中，苏军还使用过一些山地步兵师。山地步兵师的编制与普通步兵师有较大区别，其装备有适于拆开驮载的重步兵武器和炮兵武器。1个山地步兵师通常辖3～4个山地步兵团、1～2个炮兵团、1个独立高射炮营、1个独立反坦克连或营、1个独立骑兵连和若干专业兵分队。其炮兵团辖3个同一类型的炮兵营，每营编3个炮兵连（1个76毫米山炮连和2个107毫米驮载式山地迫击炮连）。有的炮兵团用1个122毫米榴弹炮营代替其中1个107毫米迫击炮营。这些山地步兵师曾参加高加索和喀尔巴阡山地区的战斗，并被使用在最难以通行的地形上。
1943年以后的步兵旅编制变化不大。由于步兵旅在战斗力上要比步兵师弱得多，从1943年9月起大部分步兵旅改编为步兵师。保留下来的步兵旅在战后被解散。
1943年以后是苏军诸兵种合成兵团（军团）编制的成熟稳定期。其编制基本上能够适应战争形势的需要。这一阶段苏军诸兵种合成兵团（军团）编制调整的主要目的，是加强其火力。此时苏联工业巨大的生产能力和大量的英美军援，为顺利改编提供了雄厚的物质基础。反观德军步兵的编制，这一时期正好与苏军相反，呈逐渐缩小的趋势，其战斗威力也在不断下降。诸兵种合成兵团（军团）这条苏军进攻“长矛”的“矛杆”在战争中变得愈来愈坚韧，直至捅进德国法西斯的心脏和横扫日本关东军。