突围后的日军34师团一开始还保持有相对规整的行军队列，大贺茂的师团指挥部先走一步，运输物资的行李队和炮兵紧随其后，再之后是运送伤员的队伍和师团野战医院，同时还有一部分步兵担任后卫，整个师团拉成了一条长龙，向东方的土地王庙一路退去。
而第九战区的中国军队则一路围追堵截，后方的追击部队像饿狼一样紧咬住日军的后卫，时不时就从日军的队列里啃下一块肉来，之前在前方给包围圈封口的第70军虽然被突破了阵地，但部队战斗力还算完整，抱着一雪前耻的想法，70军的三个师重新调整了部署，从日军队列的侧方展开攻击，骚扰并牵制着日军撤离的速度。
同时，刚刚赶到包围圈外侧，没来得及补入包围序列的东北军第49军刘多荃部也顺势加入了侧击牵制的队列，和70军分别组成了右，左两个追击军，痛打落水狗，给狼狈奔逃的大贺师团带来了无与伦比的欢乐。
更妙的是，从28日开始，上高一带开始连降大雨，天空被厚重的云层所遮盖，日军负责空中掩护的飞机无法起飞，完全丧失了制空权。于是，在中国军队的凶猛追击和侧击下，日军撤退的路途越发的苦不堪言，为了加快行军速度，日军毁坏并遗弃了所有的火炮，丢掉了辎重和行李，但这样似乎也没能让他们的脚步快上多少。
大雨导致山路泥泞湿滑，深一脚浅一脚的每走一步都要耗费很大力气，日军光是运送伤员的担架队就足足拉出了七八里长。因为道路早就被中国军队毁坏，日军的卡车无法前进，甚至很多地方连骑马都过不去，大贺茂自己都被迫下马和普通士兵一道在泥地里玩短腿拔萝卜的游戏，如果说攻打上高之前大贺茂有多狂妄，现在的他就有多后悔和狼狈。
各支中国军队在追击的过程中捷报频传，追击日军后卫部队的74军57，58两个师把日军断后的33师团600多人堵在了官桥镇里，一天之后光复官桥镇，没放跑一个鬼子；已经丢下了所有火炮，只顾专心逃命的日军野炮兵第二大队第八中队遭到70军一部突袭并被包围，大队长六角少佐向师团部求援，得到的回复却是让他放弃第八中队赶快向师团部靠拢；抬着伤员在泥水中跋涉的34师团野战医院也受到攻击，慌乱之下，一些日军的伤兵居然被丢在了路边等死。
日军的队伍里活人尚且如此，死人就更不用说了。
因为日本一直有把死在他乡的人送回故乡安葬的传统，按照他们的说法，不送回去的话，这个人就会变成游荡在外的孤魂野鬼，所以日军的部队里专门设置有尸体焚化队，负责将战死的士兵遗体焚化成骨灰，再打包送回老家，和他们在世的家人共享天伦之乐。
但撤退的时候活人都快跑不掉了，哪有那么多时间烧尸体，更不用说十多天的战斗下来，日军34师团的尸体焚化队一直保持着超负荷的工作状态，焚烧尸体的流程数次简化，从挨个烧完挨个装到堆一起烧完平均装，又从卸条胳膊凑合烧改成撅根手指意思意思，甚至这个最后方的尸体焚化队都像前线厮杀的步兵部队一样增兵了好几次，送过来不少非战斗人员帮着鼓风添柴。即便如此，这帮家伙逃走的时候还是丢下了一大堆连手指头都没来得及撅的尸体。