从此，张良日夜研习兵书，俯仰天下大事，终于成为一个深明韬略、文武兼备，足智多谋的"智囊"。
公元前209年七月，陈胜、吴广在大泽乡揭竿而起，举兵反秦。紧接着，各地反秦武装风起云涌。矢志抗秦的张良也聚集了100多人，扯起了反秦的大旗。后因自感身单势孤，难以立足，只好率众往投景驹，途中正好遇上刘邦率领义军在下邳一带发展势力。两人相见如故，张良多次以《太公兵法》进说刘邦，刘邦多能领悟，并常常采纳张良的谋略。于是，张良果断地改变了投奔景驹的主意，决定跟从刘邦。
楚怀王命刘邦、项羽分兵伐秦，并约定：谁先入关进咸阳，谁便可以立而为王。刘邦取道颍川、南阳，打算从武关进入关中。秦二世三年七月，刘邦率兵攻占颍川。韩王和张良便与刘邦会合了。刘邦请韩王留守阳翟，而让张良随军南下。
九月，军队抵达南阳郡。南阳郡守奇退入宛城固守。刘邦灭秦心切，见宛城一时难以攻取，打算绕过宛城继续西进。张良认为不妥，劝道："您虽然急于进关，但这一路上秦兵还很多，而且都扼据着险要的地势。现在不拿下宛城，一旦宛城的秦兵从后面追杀过来，那时，强秦在前，追兵在后，就很危险了。"
