众所周知，自1840年以来，中国屡遭西方列强入侵。其中，大部分西方列强都是通过军舰进行侵略。痛定思痛，在李鸿章、左宗棠等一批有识之士的推动下，从1875年开始，中国逐步建立了北洋水师、南洋水师、广东水师与福建水师。李鸿章所主导的北洋水师发展最为迅速。
但是，由于清朝没有设立专门的海军司令部，无法对这4支海军部队进行统一指挥管理，使得这4支海军部队各自为战，难以形成合力。左宗棠敏锐地看到这一点，奏报朝廷请求设立海军衙门，专设海防大臣。清廷没有同意。
结果，在1884年进行的马尾海战中，当福建水师遭到法国舰队袭击时，由于没有统一的指挥机构，北洋水师、南洋水师、广东水师竟然只能作壁上观，没有及时增援，导致福建水师全军覆没。
清朝付出了一支舰队的代价，终于认识到设立海军衙门的必要了。1885年10月，清廷正式设立总理海军事务衙门，即海军衙门。海军衙门设总理大臣1人，相当于海军总司令。慈禧太后任用了她最信任的人，即醇亲王奕譞，担任海军衙门总理大臣。海军衙门另设会办大臣两名，分别由庆郡王奕劻、直隶总督李鸿章担任。
