祖逖北伐没有兵器，既没有士兵，又没有钱粮，更没有得到皇帝或者说东晋朝廷的实质性支持。在十分艰苦和恶劣的条件下，祖逖开始了自己的北伐之路，在渡江的时候，祖逖就立下了豪言壮语，不达成自己的目标决不罢休。办法总比困难多，祖逖的班底就是跟随自己南渡的部曲，这些人是自己北伐坚定的支持者，同时他们也有收复失地的想法，于是祖逖率领这些人渡过长江，先在淮阴建立了根据地。
仍将本流徙部曲百余家渡江，中流击楫而誓曰："祖逖不能清中原而复济者，有如大江！"辞色壮烈，众皆慨叹。--《晋书·祖逖传》
招兵买马是需要物质基础，激励的话语只能起到一时之效，要想真正组织军队进行北伐，需要实打实的基础做保障。祖逖在北方世家大族的身份，为他提供了雄厚的物质经济基础和号召力，这为他招兵买马，进而支持自己的北伐事业，打开北伐的局面奠定了坚实基础。
屯于淮阴，起冶铸兵器，得二千余人而后进。初，北中郎将刘演距于石勒也，流人坞主张平、樊雅等在谯，演署平为豫州刺史，雅为谯郡太守。又有董瞻、于武、谢浮等十余部，众各数百，皆统属平。--《晋书·祖逖传》
