129师成立之初仅编有二旅四团，全师共1.3万余人，不过到了抗战胜利前夕，规模翻了23倍，总兵力达到30万余人。

1938年，129师进行了第一次编制调整，开始设立军区，编有晋冀豫军区、冀南军区两个军区。经过一年多的发展，129师的部队规模大幅扩充，总兵力突破5万人，武器装备也通过战斗缴获、民间收集等方式有所补充。

1940年，129师再次调整编制。下辖386旅兼太岳军区、师部兼太行军区、冀南军区。同时，还下辖决死3纵队、决死4纵队、新编1旅、新编10旅、385旅等部队。

这一阶段，129师通过百团大战等一系列战斗，进一步巩固了晋冀鲁豫抗日根据地，部队总兵力达到10万人左右，轻重武器数量翻倍，火力得到明显提升。

1943年，129师编制进一步完善，下辖太岳军区、太行军区、冀南军区、冀鲁豫军区。太岳军区司令员陈赓，太行军区司令员李达，冀南军区司令员陈再道，冀鲁豫军区司令员杨得志，这一年，129师总兵力已超过15万人。

1945年8月，129师番号正式撤销，在原129师的基础上晋冀鲁豫军区正式成立，这也标志着129师完成了历史使命。