1940年2月，八路军总部为统一太南地区的作战指挥，将115师344旅、新编第1旅（由晋豫边游击支队和115师344旅688团合编）、独立游击支队、山西青年抗敌决死队第3纵队和河北民军第1旅，在山西陵川、平城一带成立八路军第2纵队，司令员左总长，政委还是黄大将。
4月，黄政委率八路军第2纵队的344旅（688团改编为新1旅1团，由旅长韦杰率新1旅留在太行，688团团部随纵队东进冀鲁豫）、河北民军第一旅和南进支队，准备出发。
途中，黄政委、韩参谋长率八路军第2纵队司令部、直属队和特务营为一路，第2纵队下属的344旅为另一路，从晋东南的武涉跨过平汉铁路，越过敌人的封锁线前往冀鲁豫地区，准备与杨上将率领的冀鲁豫支队等部会合后，过陇海路南下。
华北抗日民军第1旅也随黄、韩到冀鲁豫。新1旅留在太行山坚持斗争，不久改为隶属八路军129师建制。
2月初，中干队由平顺县转移到漳河边的一个小镇上，归教导团领导。教导团1营营营长为陈发鸿、政委为邓一凡。
中干队的政治课主要是“哲学基础”、“政治经济学”、“党的建设”和“政治工作”。
这些课目大都由教员讲授。张庆林还利用课余时间仔细的阅读了《共产党宣言》。
军事课除了游击战术之外，还有班排战术和队列动作。
张庆林原身是第一次作为一名普通一兵在操场上，在野外接受较为正规的军事训练。结合前世的经历，使他通过了从立正稍息开始到各种转法步法和队列变换训练。
同时通过战术训练初步懂得了如何战胜敌人的作战方法。尽管学习时间只有三个月，但这次学习为张庆林后来训练部队和带兵打仗打下了良好的基础。
4月20日八路军第二纵队奉命率领三四四旅由平顺、高平地区东出太行，跨越平汉铁路进入冀鲁豫平原执行新的任务。
纵队中干队奉命结业，学员各回原部。张庆林和好友张天才、王义夫等背起背包，沿着漳河追赶部队。
纵队于4月初率领三四四旅从平顺地区出发，东出太行山，进至邯郸以西集结。由于时间紧迫，纵队中干队来不及结业就宣布解散，学员们各回原部分配工作。
张庆林和张天才、王义夫二人，背上行李，结伙赶队。他们沿着漳河边的崎岖山路行进。
将要沿着十八盘盘山路下山之前，张庆林站在头顶彩云，手摘星斗的太行之巅，举目向东遥望，一眼看不到边的华北大平原呈现在眼前，心中感到无限宽阔。
也深深感到中国，太辽阔，太伟大了。可是美丽的土地正遭受着日本帝国主义的侵略和蹂躏，有待中华民族的优秀儿女奋起抵抗，恢复你那完整而美丽的尊容。
在沙河以西的一个大村子里，他们赶上了部队。三人向三四四旅政治部组织科田科长报了到，随后政治部高主任接见了他们。高主任是陕北人，个头不高，下巴留着山羊胡，一双有神的眼睛，操着浓厚的陕北口音，颇善谈吐，待人和气。
二纵队扩编之前他是三四四旅政治部的组织科长。各团青年干事常在组织科聚会，他对张庆林也比较了解，张庆林对他也有敬佩之感。高主任代表政治部欢迎张庆林他们的归来，向他们介绍了部队将要执行的任务，并告诉了他们都将分配到重新组建的新688团工作。
4月20日的夜晚，经过周密的准备，部队在沙河附近顺利地通过平汉铁路，进入冀南平原。这是张庆林第二次夜过敌人封锁线。
冀鲁豫平原地形平坦，人口稠密，村庄大而多，道路纵横交错，交通方便。部队刚从山沟里走向平原，很不习惯。
总觉得这里的天高了，地也远了。有的人从当兵起，大多数时间是在山沟沟里同敌人作战，觉得山地打仗能进能退，进可以利用山地有利地形进行伏击、奇袭，出其不意地打击敌人。当处于不利时，又可利用山地的有利条件迅速转移，摆脱敌人。
现在到了一望无际的平原，打起仗来没有有利的地形作依托，加之交通方便，敌人的汽车、坦克便于机动，也便于敌人的飞机的活动。对我军隐蔽机动十分不利。不少指战员们都觉得在这种情况下作战很难受，心中无底。
张庆林虽然现在还不是直接指挥战斗的指挥员，心中也感到在这样的地形条件下作战太难了。为了克服指战员们平原地区作战的思想顾虑，旅首长和旅政治部专门编发了有关平原地区作战的有利因素和不利条件，以及怎样趋利避害的宣传材料。
最有说服力的是我纵队冀鲁豫支队和其他兄弟部队已在平原地区进行了两年多的敌后游击战争，根据地不断扩大，部队也壮大了，不仅没有被敌人打败，反而打了不少胜仗，消灭了不少敌人。
加之进入平原后广大人民群众抗日情绪高涨，拥护共产党，拥护八路军，部队走到哪里，都有群众的热情支援，有吃有住，指战员的思想疑虑也就打消了。
南下的第2纵队是精干的，当时，最高领导层，黄政委、韩参谋长两人都没有家属，这支部队中的干部不少人到了皖东北或苏北才组织家庭的。现在都没有家庭的拖累。
部队经过急行军，于夜半时分到达离永年县城西北30多里、北紧临小沙河的辛寨村，韩参谋长下令部队在此宿营，由特务营和教导1营担任警卫。
部队刚驻下，侦察员报告，驻守永年县城的日军调集沙河、永年、平乡、鸡泽等县兵力包围辛寨村。
部队来不及转移，敌人的进攻就开始了。黄政委、韩参谋长率领纵队机关、特务营和警卫连，固守寨墙、房屋与敌人展开激战。
日寇在猛烈的炮火掩护下，发动了多次进攻，均被我军击退。韩参谋长命令1名作战参谋带两名战士越过围墙，用机枪把敌人的一个火力点摧毁。