徐树铮出身耕读之家，后来弃笔从戎，想去山东投奔袁世凯。袁世凯派来山东观察使朱钟琪来考察徐树铮，两人话不投机，徐树铮被赶了出来。无处可去的徐树铮在街头偶遇段祺瑞，这两人倒是一见如故，段祺瑞把徐树铮留下当了记室。后来段祺瑞还送徐树铮去日本留学学习军事。
甚至徐树铮去段府找段祺瑞，也完全不用门房通报，可以直接进出，连段祺瑞的内室也不例外，由此可见段祺瑞对他的信任。
段祺瑞这么信任徐树铮，一方面是徐树铮确实忠心耿耿，一方面也是他有才气。徐树铮做事过目不忘，公文、条例只要看过就能记住，段祺瑞问他都能对答如流，而且一字不差。而且徐树铮还能一心多用，一边批公文一边接电话都不耽误。也难怪段祺瑞要把他当成左膀右臂了。
