此时南明的众多势力中，当属郑成功的实力最为强大，当时他的军队拥有17万水军，张煌言的六千水军在其面前力有不逮。可是此时郑成功尊奉唐王为正统，于是张煌言只能同鲁王一起寄人篱下。
但是张煌言始终心怀天下，矢志报国，当他与郑成功相识以后，便为对方气节所打动，不计较个人得失，在其麾下全心效力。后来张名振死前本欲将他的六千水军授权给张煌言，但却被郑成功委任亲信夺取，直到次年他的亲信死去，张煌言才重新拥有兵权。但是不管怎样，极具家国情怀的张煌言与郑成功还是在抗清中产生了深厚情谊。
顺治十五年，永历皇帝封郑成功为延平郡王，张煌言为兵部左侍郎，一同抗清。恰逢清军发军云贵，意图剿灭南明政权。于是郑成功决定出征浙江，围魏救赵，分担云南明军压力。同年，郑成功与张煌言的水师汇合，攻克了乐清和宁海，然而由于台风缘故，郑氏损失巨舰上百艘，溺死八千军士，只能暂退厦门。
