谢安派出的将领胡彬，率领水军沿着淮河向寿阳进发。在路上，他得知寿阳已经被前秦的前锋苻融攻破。胡彬只好退到硖石(今安徽凤台西南)，扎下营来，等待谢石、谢玄的大军会合。
苻融占领寿阳以后，又派部将梁成率领五万人马进攻洛涧(在今安徽淮南东)，截断了胡彬水军的后路。晋军被围困起来，军粮一天天少下去，情况十分危急。
胡彬派出兵士偷偷送信给谢石告急，说：“现在敌人来势很猛，我军粮食快完，恐怕没法跟大军会合了。”
送信的晋兵偷越秦军阵地的时候，被秦兵捉住。这封告急信落在苻融手里，苻融立刻派快马到项城去告诉苻坚。
苻坚一连得到秦军前锋的捷报，更加骄傲起来。他把大军留在项城，亲自率领八千名骑兵赶到寿阳，恨不得一口气把晋军吞掉。
他到了寿阳，跟苻融一商量，认为晋军已经不堪一击，就派了一个使者到晋军大营去劝降。
那个派出的使者不是别人，恰恰是前几年在襄阳坚决抵抗过秦军、后来被俘虏的朱序。
朱序被俘以后，虽然被苻坚收用，在秦国当个尚书，但是心里还是向着晋朝。他到晋营见了谢石、谢玄，像见了亲人一样高兴，不但没按照苻坚的嘱咐劝降， 反而向谢石提供了秦军的情报。他说：“这次苻坚发动了百万人马攻打晋国，如果全部人马一集中，恐怕晋军没法抵挡。现在趁他们人马还没到齐的时候，你们赶快 发起进攻，打败他们的前锋，挫伤他们的士气，就可以击溃秦军了。”
朱序走了以后，谢石再三考虑，认为寿阳的秦军兵力很强，没有把握打胜，还是坚守为好。谢安的儿子谢琰劝说谢石听朱序的话，尽快出兵。
谢石、谢玄经过一番商议，就派北府兵的名将刘牢之率领精兵五千人，先对洛涧的秦军发起突然袭击。这支北府兵果然名不虚传，他们像插了翅的猛虎一样，强渡洛涧，个个勇猛非凡。守在洛涧的秦军，不是北府兵的对手，勉强抵挡一阵，败了下来，秦将梁成被晋军杀了。秦兵争先恐后渡过淮河逃走，大部分掉在水里淹死。
洛涧大捷，大大鼓舞了晋军的士气。谢石、谢玄一面命令刘牢之继续援救硖石，一面亲自指挥大军，乘胜前进，直到淝水(今淝河，在安徽寿县南)东岸，把人马驻扎在八公山边，和驻扎寿阳的秦军隔岸对峙。
苻坚派出朱序劝降以后，正在洋洋得意，等待晋军的投降，突然听到洛涧失守，像头上挨了一下闷棍一样，有点沉不住气。他要苻融陪着他到寿阳城楼上去看看对岸形势。
苻坚在城楼上一眼望去，只见对岸晋军一座座的营帐排列得整整齐齐，手持刀枪的晋兵来往巡逻，阵容严整威武。再往远处看，对面八公山上，隐隐约约不知道有多少晋兵。其实，八公山上并没有晋兵，不过是苻坚心虚眼花，把八公山上的草木都看作是晋兵了(文言是“草木皆兵”)。
苻坚有点害怕了，他转过头对苻融说：“这确实是强大的敌人啊!怎么能说他们弱呢?”
打那以后，苻坚命令秦兵严密防守。晋军没能渡过淝水，谢石、谢玄十分着急。如果拖延下去，只怕各路秦军到齐，对晋军不利。
谢玄派人给苻坚送去一封信，说：“你们带了大军深入晋国的阵地，现在却在淝水边摆下阵势，按兵不动，这难道是想打仗的吗?如果你们能把阵地稍稍往后撤一点，腾出一块地方，让我军渡过淝水，双方就在战场上比一比输赢。这才算有胆量呢!”
苻坚一想，要是不答应后撤，不是承认我们害怕晋军吗?他马上召集秦军将领，说：“他们要我们让出一块阵地，我们就撤吧。等他们正在渡河的时候，我们派骑兵冲上去，保管能把他们消灭。”
谢石、谢玄得到苻坚答应后撤的回音，迅速整好人马，准备渡河进攻。
约定渡河的时刻到来了，苻坚一声令下，苻融就指挥秦军后撤。他们本来想撤出一个阵地就回过头来总攻。没料到许多秦兵一半由于厌恶战争，一半由于害怕晋军，一听到后撤的命令，撒腿就跑，再也不想停下来了。
谢玄率领八千多骑兵，趁势飞快渡过淝水，向秦军猛攻。
这时候，朱序在秦军阵后叫喊起来：“秦兵败了!秦兵败了!”后面的兵士不知道前面的情况，只看到前面的秦军往后奔跑，也转过身跟着边叫嚷，边逃跑。
