经中央军委同意后，准备攻打太原城的各部队转入休整。
第1兵团各部队的主要工作是：⑴补充整理部队；⑵进行政治整训与军事练兵；⑶进行粮弹等物资准备；⑷侦察敌情；⑸开展政治争取工作。
补充整理部队：
由于兵团于1948年5月刚成立，第15纵队也刚由地方武装升级组成，各级领导机构均不健全，部队兵只剩1人。员本来就不够充实，临汾、晋中战役中又有较大伤亡，使各部队兵员严重不足。全兵团1000人以上的团仅有2个，有的团连级军政干部只剩3人，营级干部因此，在休整中加紧补充整理部队，争取改造俘虏、动员翻身农民参军及伤病员归队；提拔调整干部，健全各级领导机构，正式成立兵团后勤部；补充调整部队的武器装备，基本达到每连步枪90支，轻机枪6挺；每营重机枪6
经过休整补充，至1948年9月底，第1兵团的兵力达7.79万人（1948年10月14日徐向前、周士北、陈漫远向中央军委和华北军区所作《九月份实力报告》）。加归其指挥的其他部队，参加太原战役的兵力计1个兵团、4个纵队、17个步兵旅，1个炮兵旅，共11.5万人。
进行政治整训与军事练兵：
在补充整理部队的基础上，针对太原城防坚固的特点和部队的思想实际，各部队普遍开展形势教育和诉苦教育。通过发动战士分析敌我双方的形势，对比敌我双方人力、物力、民心等各方面的情况，使大家认识到：“敌是死水坑，我是长流水”，阎锡山虽凭坚恃险，不过是困兽犹斗。
通过开展诉苦教育，使广大指战员特别是解放战士提高了阶级觉悟和政治觉悟，他们揭破阎锡山的种种欺骗，纷纷表示“干解放军”，从而减少了逃亡，巩固了部队。
与此同时，部队自8月下旬开始进行军事练兵，结合实际敌情、地形，学习训练攻防战术、爆破和土工作业。经过军事练兵，各纵队约有70%的人学会了爆破，广大指战员从训练中体验到钢筋水泥碉堡能被炸垮，土工作业能避免炮火杀伤，从而提高了打太原的胜利信心。
进行粮弹等物资准备：
休整期间，各级后勤部门尽量改善部队生活，恢复战士体力。各纵队均成立了医疗所、休养所和担架队。为攻打太原，华北军区调运弹药400万余公斤，其中，各种炮弹83.5万余发，各种子弹4825万发，手榴弹78.6万枚，黄色炸药41.3万余公斤，黑色炸药6.65万余公斤。部队需粮数很大，仅小米一项每日即需20万公斤。
晋中军区支前司令部组织民工民兵向前线运送粮弹，确保了部队的各种需要，并为部队作战准备了大小檩条30万余根、门板32万余块、麻袋30万余条。
侦察敌情：
整训开始后，兵团划分了南、北、西3个侦察区，组织部队和各区的侦察部门及城工部、社会部、敌工部的全部力量，对太原进行全面侦察，基本掌握了守军的兵力部署、碉堡分布及地形等情况。东山柳沟村党支部书记赵炳玉，从阎军防区出来，向兵团首长汇报了有关通往牛驼寨秘密小道的情况。兵团即派人侦察，并将此道路确定为战役的突破口。后来，第7纵队就是由此袭占牛驼寨的。
开展政治争取工作：
在进行战役准备的同时，第1兵团大力开展政治争取工作。徐向前亲自找在晋中战役中被俘的阎锡山第7集团军总司令赵承绶，叫他回去劝阎和平解决太原问题。但赵担心回去被杀。徐向前只好让他写信给阎锡山及其周围的高级将领。华北军区派副参谋长王世英等人赴太原前线组成工作组，利用各种关系，试图与阎锡山谈判，以争取和平解放太原。经过动员，年近八旬的阎锡山的老师，表示为拯救太原黎民百姓免于战火，愿意进城去见阎锡山。然而，阎非但不听劝告，反而把老师给杀了。此后，华北第1兵团即将政治争取工作的重点放在下级官兵身上。