作为南朝宋开国皇帝的刘裕，他祖籍彭城（徐州），是汉高祖刘邦之弟、楚元王刘交的第22世孙。虽然身为大汉皇室之后，但毕竟经过很长时间况且汉朝早已灭亡，到刘裕这家境已经十分贫寒。后来母亲因分娩后患病而去世，其父曾因家贫一度想要抛弃他，幸得好心人伸出援手，才得以长大成人。成人后的刘裕因不拘生活小节，侍奉继母以孝顺闻名乡里。后来因晋朝衰败天下大乱，刘裕胸有大志想做一番惊天动地的大业，遂参军成为北府军将领冠军将军孙无终的司马。
刘裕自参加北府军后，便从一个低级军官开始亲自上阵杀敌屡立战功，而且从来没有打过一场败仗。隆安三年（公元399年），起义军首领孙恩在会稽（绍兴）起兵反晋，东南各地纷纷响应。晋廷得知此事朝野震荡，遂派大将谢琰、前将军刘牢之前往平叛。在镇压孙恩起义过程中，刘裕声名鹊起多次以少胜多，最终刘裕击溃孙恩迫使其投海而死。《宋书·武帝纪上》就记载："高祖常被坚执锐，为士卒先，每战辄摧锋陷阵。"
元兴元年（公元402年），桓玄是大司马桓温之子，因为嫌官小位卑，弃官回到桓氏发迹之地荆州篡晋自立，改国号为楚。此时已是北府军中名将的刘裕随军出征讨伐桓玄，在这场战争中刘裕被众人推为盟主，冲锋在前指挥军队取得了胜利，成为东晋的权臣。义熙元年（公元405年），刘裕挟大胜之余威，又从后秦手中夺回淮北十二郡。义熙四年（公元408年），占据长江上游的桓谦领导的桓楚政权再次被刘裕击破，桓楚王朝余部被彻底消灭。为此刘裕也获授侍中、车骑将军、徐州和扬州刺史，正是掌握朝政大权。
