国民党徐州绥靖公署主任薛岳，自恃军事方面在苏北鲁南占有绝对优势，虽然在宿北被歼一个整编师，仍然认为当前是聚歼陈毅的绝好机会，决心继续贯彻原定的战略意图。
12月28日，薛岳调整了部署，将原4个兵团改组为5个兵团：
阜海兵团：由原盐阜兵团改编，司令官仍为欧震，整编第25师增加了第40旅。由阜宁向海州方向进攻。
淮陇兵团：由整编第74师及第7军171师编成。司令官张灵甫，受李延年指挥，由涟水向陇海路进攻。
陇南兵团：由宿新兵团改编，司令官胡琏。重建整编第69师，保留第41旅、第60旅、预3旅番号，由徐州绥靖公署参谋长任师长，由宿迁向陇海路进攻。
陇东兵团：由3个整编师（整编第64师，师长黄国梁，辖第131旅、第156旅、第159旅。整编第59师，师长刘振三，辖第38旅、第108旅，附重迫击炮第13团1个营、工兵第30团第2营。整编第70师，师长陈颐鼎，辖第139旅、第140旅）组成，司令官李文田，受冯治安指挥，于台儿庄以南沿陇海铁路自西向东进攻。
峄临兵团：由3个整编师（除整编第26师、整编第77师外，新增整编第51师（师长周毓英）辖第113旅、第114旅，第1快速纵队辖第80旅、中央直属榴炮第5团及第4团1个营、战车第1团第1营、搜索营、工兵营和汽车团）组成，司令官改为整编第24军军长李玉堂，受冯治安指挥，继续沿峄临公路向东进攻。（谢声溢等编：《绥靖纪实》，第88～93页）
薛岳的部署存在较大的缺陷。冯治安为徐州绥靖公署副主任兼整编第33军军长，所部系由原西北军冯玉祥部改编，一向受国民党嫡系军队排挤。这次调整部署撤销其兵团司令官职务，留下一个中间空头指挥的头衔。所部2个整编师（第59、77师）分属2个兵团，这样使用，冯治安不仅不能使该部官兵效命，反而为中国共产党统一战线和兵运工作创造了良好条件。