徐树铮，清光绪六年（公元1880年）出生于江苏省萧县一个小村庄。父亲徐忠清曾经是一名乡村塾师，后被选拔为贡生。耕读之家的家庭环境使徐树铮自幼深受儒家文化熏陶，3岁能识字、7岁能作诗、13岁就考中秀才、17岁补廪生，成为当时有名的小神童。徐树铮补廪生后前往省城南京参加乡试，不料却名落孙山。
当时中国被西方列强压迫严重，瓜分中国的声音此起彼伏。1901年，年轻的徐树铮弃文从武，便偷偷离开家中，跑到济南准备投奔时任山东巡抚的袁世凯。投奔之前，徐树铮上书袁世凯，陈述经武之道，袁世凯正值母丧，没能亲自接见这位远道而来的年轻人，便派山东观察使朱钟琪考察他。朱钟琪为人刚愎自负，以"名士"自居，对这样一个名不见经传的年轻人根本不以为然，还派人送信到徐树铮的家乡讥讽他。无奈之下，投门无路的徐树铮只得在济南城中辗转，在这里他遇到了段祺瑞，并成为其记室。
