毛泽东、周恩来等人撤出延安后，一直往东进发，先后辗转刘家、瓦窑堡，同先前到达的刘少奇、朱德、任弼时、叶剑英等会合。1947年3月25日夜，中共中央机关转移到清涧县枣林沟。
3月26日夜，中央书记处召开紧急扩大会议，讨论党中央是继续留在陕北，还是东渡黄河进入山西的问题。会上，形成了两种不同意见，争论也很激烈。
争论最后结果5个人分成两班，一部分坚持陕北，一部分过黄河。
大家一致赞成。最后毛泽东拍板，刘少奇、朱德和一部分中央委员组成中央工作委员会，以刘少奇为书记，前往华北，进行中央委托的工作；毛泽东、周恩来、任弼时率党中央的精干机关继续留在陕北，指挥全国各战场的作战；叶剑英、杨尚昆等人率党中央及中央军委的大部分工作人员，到晋西北统筹后方工作。
3月27日下午，刘少奇、朱德率中央工委出发，东渡黄河。随中央工委一起行动的有中共中央组织部、宣传部、社会部、办公厅、党校，以及《解放日报》等单位。
各个机关分批走了之后，枣林沟顿时冷清了下来。留下来的机关和警卫部队，进行了轻装整编。中共中央机关编为4个大队；警卫部队编成一个手枪连，成立了司令部，称为“三支队”，代号为“昆仑纵队”。任弼时任纵队司令，陆定一任政治委员，叶子龙任参谋长，汪东兴任副参谋长，廖志高任政治部主任。
周恩来倡议：部队有了代号，我们也应有个代号，以便保密。毛泽东表示同意，并给自己取代号为“李得胜”，意即撤离延安一定取得胜利。周恩来取代号为“胡必成”。浙江口音中“胡”和“务”读音一样，意即革命事业务必成功。任弼时的代号取为“史林”，系司令的谐音。任弼时有斯大林式的胡子，也爱用大烟斗抽烟。因此，用“史林”为代号颇为形象。陆定一的代号取为“郑位”，也像政委的谐音了。从此，在陕北就出现了一支神秘的“昆仑纵队”。