对兰州战役，毛泽东及中央军委予以了高度关注。在兰州战役前后的十几天内，彭德怀几乎每天都向军委和毛泽东报告前线情况，毛泽东也多次复电指示。
8月23日，毛泽东指示：马步芳既决心守兰州，有利于我军歼灭该敌。为歼灭该敌起见，须集中3个兵团全力于攻兰战役。王震兵团从上游渡河后，似宜迂回于兰州后方，即切断兰州通青海及通新疆的道路并参加攻击，而主要是切断通新疆的道路，务不使马步芳退至新疆，贻害无穷。攻击前似须有一星期或更多时间使部队恢复疲劳，详细侦察敌情、地形和鼓舞士气，作充分的战斗准备。并须准备一次打不开而用二次、三次攻击，去歼灭马敌和攻占兰州。
看到毛泽东的指示，彭德怀确有茅塞顿开之感。他遵照毛泽东指示立即调整了部署，并设想了可能出现的最困难的情况。
然后于24日报告毛泽东：以现在准备工作看，攻城已有七八成把握，故决定在25日晨开始攻击。1949年8月25日凌晨，雨过天晴。兰州城内外，一片漆黑，点点繁星，在天空中闪闪发亮。习习微风吹来，使人感到阵阵凉爽。南山上下，静谧异常，连稀疏的枪声也听不见。经过几夜的袭扰，敌人已经疲惫不堪，眼下可能正蜷缩着身子，做着黄粱美梦呢。他们何曾想到，在这静静的南山下，千万个战士杀敌复仇的火焰正在熊熊燃烧！
6时30分，突然，两颗红色信号弹腾空而起，总攻开始了！刹那间，整个大地发出惊天动地的巨响，一条条火舌飞向敌人阵地。在炮火掩护下，我全线各个突击队，经过猛烈冲锋，在火光弹雨中突破了敌人的前沿阵地。突击部队和爆破队协同动作，密切配合，且战且进，击退敌人一次又一次反扑，我军一步又一步地向前推进着。
敌军坚固工事一个个被突破。经过异常激烈的战斗，沈家岭主阵地上的上、下狗娃山，首先被第4军攻占。下午，第6军攻克了南山最高峰营盘岭的主阵地三营子；63军攻占敌另一主阵地豆家山。65军于黄昏占领古城岭、马架山。
至此，兰州的“锁钥”已全部掌握在野战军手中了。在战斗中，敌军指挥官用机枪和大刀督战，连续向野战军发动反冲击。进攻部队攻占每一条壕沟，攀登每一道峭壁，夺取每一个阵地，都经过艰苦的战斗和反复的争夺，多次拼刺刀，同敌人肉搏。
皋兰山的主峰营盘岭，敌之工事最强。当6军17师50团冲锋到第一道峭壁时，突破口未被炸开，敌人凭借钢筋水泥暗堡拼命抵抗，几次爆破和攻击均未成功。这时7连指导员曹德荣挺身而上，抱起炸药包，趁着手榴弹升起浓烟雾之际爬到峭壁下，身贴崖壁，手托炸药包炸开了缺口。
这位舍身炸峭壁的英雄，以自己的身体开辟了前进的通道。随后部队又突破二、三道峭壁，在16师密切配合下，胜利地攻占了三营子阵地和皋兰山主峰营盘岭。后来彭德怀多次谈到：打兰州是一场恶战，是艰巨的攻坚战。有的团一千五六百人的建制，战斗结束时只剩下几百人。这些战斗英雄们为了人民事业，粉身碎骨，英勇的自我牺牲精神，永远值得我们学习和怀念。
在兰州鏖战之际，野战军左路第1兵团于8月22日解放了临夏。马步芳深感后方空虚，老巢危急，不得不由兰州抽调骑兵第8、第14师回西宁，同时急派亲信赴宁夏求援。但马鸿逵为保存实力，虚与委蛇。
马步芳又于24日急电国民党政府：请火速分催陕署、宁夏友军行动。并于当天自兰州飞回西宁。行前叮嘱其子马继援：如马鸿逵、胡宗南及空军再不来援，则迅行撤守青海。这时兰州的南山阵地均被攻占，青马军伤亡惨重，城中没有预备队，宁马和胡宗南的援兵一个也没有来。
25日下午，那个发誓“与兰州共存亡”，嚣张一时的“马家军”总指挥马继援，秘密从阵地上撤走主力，趁夜幕降临之际，想通过黄河铁桥退至北岸。
第2兵团3军7师首先发觉敌人开始逃走。他们一面报告上级，一面发起追击。26日凌晨，攻占西关，抢占铁桥，堵死了敌军的唯一退路。经过巷战，野战军于当日中午肃清了城内残敌，越过铁桥占领白塔山，被国民党倚为金城汤池的兰州宣告解放。西北解放战争史上规模最大、战斗最激烈的一次城市攻坚战，西北战场上最后的一次大战役胜利结束。青马主力基本上被消灭。
兰州解放，分割了西北国民党军各部的联系。彭德怀决定不给敌人以喘息机会，猛追穷寇，全部干净歼灭之。接着部署野战军左路先取西宁，右路夺取宁夏，中路进军永登，沿河西走廊逐次解放武威、张掖、酒泉等城，然后进军新疆。
9月5日，王震率第1兵团解放青海省会西宁。马步芳等人逃往香港。青马集团被彻底解决。
野战军第19兵团在兰州解放后稍事休整，即挥戈北上，进军宁夏。