根据中央提出的“夺取三路四城，首先打下平汉路和石家庄、保定”的指示，聂荣臻提出，如无晋冀鲁豫的配合，执行中央的指示是困难的，建议先用半月时间，与晋绥配合打下大同。中央复电同意。于是7月，为孤立大同，晋察冀与晋绥军区配合进行了晋北战役。晋察冀军区部队在40多天中解放了山阴、繁峙、原平、五台、定襄等城镇，歼敌8000多人，基本实现了预期目的。晋北战役后，接着与晋绥军区组织了大同、集宁战役。
8月2日，聂荣臻到阳高主持了大同战役作战会议。根据大同守敌兵力不强，但城防坚固的特点，确定以5个旅围攻大同，先在外围各个歼敌，在围城同时，另部署4个旅打傅作义可能的增援，并组成前线指挥部，由晋绥野战军副司令员张宗逊任司令员、晋察冀军区副政委罗瑞卿任政委、第3纵队司令员杨成武任副司令员。
7月31日战役开始。大同城坚，对此估计不足，未能按计划攻克。9月2日，傅作义3个师增援大同，这本在我意料之中。傅部进到集宁，被包围。在敌人即将被歼时，傅作义又派了一个师增援集宁。由于前线指挥员指挥不当，不是集中全力先吃掉敌人3个师，而是掉头打敌人增援的一个师，兵力调整又组织不当，致使敌4个师会合，失去了歼敌良机。
后来，聂荣臻在回忆录里总结教训时说：“发起大同战役，有考虑不当之处。因为，大同敌人的兵力虽不雄厚，而城防设施是颇为坚固的。当时，我军既没有重武器配备，又缺乏攻坚战经验，哪里有把握攻下大同？”（《聂荣臻回忆录》，解放军出版社1986年3月2日版，第631页）
在这种情况下，13日部队撤离集宁，16日撤围大同，加上8月28日放弃了承德，至此，张家口东西两面受敌，形成被动态势。聂荣臻权衡利弊，认为我军一向以歼敌有生力量为主，不计一城一地的得失，决心能守则守，必要时主动放弃张家口。