经过再三考虑，谢石、谢玄采纳了朱序的建议，谢石、谢玄作出了派北府军袭击洛涧的决定。北府军名将刘牢之没有辜负大家的希望，5000精兵打了个秦军措手不及，四散溃逃。接着刘牢之带人马直奔硖石去救胡彬水军。谢石、谢玄指挥士气大振的晋军趁胜前进，一直到淝水（今淝河，在安徽寿县北）东岸，把人马驻扎在八公山边，对岸就是驻扎在寿阳的秦军。
洛涧大败对苻坚就像当头一棒，他还没有回过神来，晋军又到了对岸，他开始摸不着头脑了。他由苻融陪着登上寿阳城头向对岸望去，只见晋军营帐密密麻麻，人马往来，尘埃腾起，八公山上到处都是军旗，不知道有多少晋军。苻坚越看越眼花，把八公山上的草木都看作是晋军了。从此，历史上就留下了"草木皆兵"这句成语。
苻坚对苻融说："晋军的确很强大，谁说他们弱的。"本来不可一世的苻坚一下子全变了。他命令秦军加强防守，不许轻举妄动。
晋军等了几天，看秦军没有动静，怕一直拖下去，秦军兵马来齐了，对自己不利。于是谢玄就派人给苻坚送去一封信，信上说："你们的大军深入我们的阵地，在淝水边上摆开阵势，现在却按兵不动，这像在打仗吗？如果你们还准备打的话，不如稍稍往后撤一点，留出一块地方，让我们渡过淝水，双方好好较量一下，比比高低，行不行？有没有这个胆量？"
