谢玄自率步军四五万，沿陆路西行。路遇东逃百姓，手指口说，皆称秦军满山遍野，盖地铺天，一时间全都涌来淝水西岸、寿阳城边，后军又在源源不断向南开进，皆劝谢都督好自为之。又有长安父老，渡河（黄河）涉淮（淮水），由西路南逃，路遇晋军，皆言秦国铁骑兵十分了得，一旦对阵，步军绝非其敌。
谢玄唯恐有失，遂遣出信使驰赴京口，乞大都督（谢石）速遣骑兵前来会齐。为安军心，谢玄身披斗篷，腰挎重剑，威风凛凛，一马当先，行在队伍最前。孙无终等一班北府将领，也皆重铠重甲，紧紧随行。
大军涉过洛涧，越过硖石，沿淮水南岸西上，看看逼近八公山地面。
梁成败得好惨，梁云死得可怜。战事已过，硝烟散尽。硖石、洛涧二处地面，此时已风平浪静。道上仍随处可见胡人尸体，惨不忍睹，触目惊心。粮草、盔甲、兵器丢得满地皆是，望之扼腕，见也叹息。
晋军在道急行两天一夜，第二日午夜，终于抵达淮南。谢玄遣人哨探，令就便报信于胡彬、刘牢之，传他二人来见，一面安营扎帐，令大军就地休息，等待主帅号令。
刘牢之闻大军赶到，喜不自禁，率儿子、女婿、外甥离帐远迎。五千将士闻援军已在淮淝安帐立营，也皆振臂欢呼，举手称庆。淝水东岸，喊声震天动地；牢之大营，战骑穿梭不停。晋军欢欣鼓舞，士气大振，果无惧心。
谢玄见牢之来，频道“辛苦”，连夸“佩服”，抚慰已毕，不禁又赞：“刘参将洛涧一役，震慑敌胆，挫敌锋锐，令秦胡不敢轻我战力，江东人心大定。尤其斩杀秦将梁成一事，苻坚惊惧交加，泄去不少骄势，行军已是小心翼翼。参将威名，洛涧横空出世。江表地面，老幼皆知刘牢之大名。参将功劳，本帅已奏报朝廷，奏表嘉奖，以励后进。传天子闻参将立功，后悔不尽——”
牢之大惊，急问：“后悔何事？”
谢玄笑道：“皇上只闻其名，不识其人，是以后悔！”
刘牢之恍然大悟，黑脸失羞，骄矜之气顿现紫面。