渡江必须有船，有船还得有会撑船的人。因此，部队到达江边的第一个任务，就是筹集船只，动员船工。经过一番宣传动员，不少渔民献出了自己的船。但有些船主对这些宣传不感兴趣，有的竟将船只开进湖里隐藏起来。这些船主，多是跑江湖的人，他们控制船工，由于吃过受骗的亏，对生人的话不轻信，但重感情，讲义气，喜交朋友，爱办光彩事，愿听大官讲话。
针对这些特点，部队改变工作方法，与船主、船工搞联欢，军长、政治委员和政治部主任出面讲话动员，号召他们参战立功。三野还印发了《渡江船工光荣证》，有的军还印了《船工立功证》。这些都有力激发了船主、船工的积极性。
第9兵团还明确宣布：船工及其家庭的生活，由部队按制度供给，船工每天发粮3斤半，家属大人2斤，6岁以下小孩1斤；伤者给予治疗，工资照发；残废者，跟部队人员一样，发给荣军证；牺牲者，给予抚恤，安置其家属；船打坏了，坏多少赔多少，整个坏了赔新船。
后顾之忧解除，许多人争着报名当船工，船主也自动把隐藏在湖里的船只交给部队，把沉入河底湖底的船又打捞上来。敞开衣襟的船工们，握拳捶胸，吐出肺腑之言：“有我们在，就有船在，不把你们送过江，还算什么闯江湖的汉子！”
就这样，二野、三野一共筹集各型船只9400多条，平均每个第一梯队军拥有大小船只500多条，一次可运1万多人。
有了船，部队即开始进行游泳、乘船的“试水”训练。早春的沿江地带，乍暖还寒，河水冰冷刺骨，但干部、战士却整天扑腾在河湖池塘里，不少人冻得连话都说不出来。然而，经过一段时间苦练，大部分北方来的“旱鸭子”变成了“水鸭子”，并学会了划桨、撑船、自救互救等技能。
接着，部队又进行上船下船、航行编队、通信联络、水上射击、登陆突破等战术演练。二野、三野都发出指示，要求在训练中要贯彻有进无退、英勇顽强、独立自主、配合友邻的战术思想，以及分散登陆、集中作战，先登陆先突击，小群动作，大胆猛插的战术原则和动作要领。
据此，部队间展开比赛，看谁的成绩好。他们从河里练到湖里，又从湖里练到长江。第21军第185团3小时横渡巢湖70里，靠岸登陆全团仅用了5分钟！
训练出成绩，训练还出发明创造。一个战士的不慎落水，引发了大家对自制救生圈的思考。不久，各种各样的救生圈制造出来了！
4月9日，刘伯承、张际春、李达向三野和第4、第5兵团各军通报：
“我12军渡江演习以廿斤稻草捆绑成圈试渡成功。因其面积小，又能露出胸部，战士在渡江时尚可射击。稻草圈浸水12小时，仍可使用。现正试以3个草圈连成品字形，以便互助小组协同前进，试行结果续报。”
4月14日，张震也将第10兵团在内河试验成功的救生圈通报二野：
甲、用9斤至10斤蒲芦苇或小麦秸，扎成一个一米三至一米五长之三角形（后一角须加一细棒），中间加150公分圆圈（用布裹住正合适人腰粗）。为增加抗力，草把圆圈应较人身体稍大些，缚于三角内，使用时使身体置于草圈中央。
乙、以火油箱两只，用绳布捆扎于腰部。
丙、以5个猪水泡吹充气，勾结于腰间。
丁、以油布（美式油布最好）缝成车轮胎形圈袋（较人身体较大些），内部塞满乱稻草（最好睡过）并藏空气，将圈袋套于人胸部。
戊、以毛竹筒4个（每个一竹节）勾结于腰间（毛竹筒是去竹青皮，较轻，浮力大），试验结果，其浮力使会浮水者能托一支机枪射击，不会水者能托一支步枪射击，浮水面与人之胸部，运动自如。
上述各材料易取且廉，也易制，轻便好带，现该兵团正普遍自制使用。
各种救生圈的试制成功，对担心落水而又不大会游泳的战士无疑是一个福音。
船被枪弹击穿漏水怎么办？这又是战士们担心的一个问题。通过实验，他们找到了用棉絮塞船补漏的好方法。
此外，三野部队还把汽车发动机安装在木船上，把船改装成土炮艇、冲锋舟。
渡江时间日益临近，将船只送入长江成了大问题！
解放军的船只多在内湖、内河，但内湖、内河的出口或入江处，多被国民党军的炮火封锁。在这种情况下，陆地行舟，将船抬入长江是一个办法。但这样既浪费人力物力，又容易损坏船只、暴露目标。于是，部队在群众的帮助下，开渠灌水，掘堤引渡，拉船翻坝，将船隐蔽入江。
到4月初，后勤部门给部队补充了3个至4个基数的弹药，人民群众为部队备足了1个月的粮食，山东、苏北、皖北的群众组建了几十个民工随军团，确保部队打到哪里，支前工作就做到哪里。
至此，渡江作战准备已全部完成。