中了武秀才，自然要走从军之路。那时候淮军是大树，冯有茂投的是淮军刘铭传的部队，转战各地，后来当上了哨官，定居在保定城外。
1882年11月6日，冯有茂的第二个儿子出生，乳名叫科宝，族名叫冯基善。后来冯妻游氏又接连生了五个儿子，但不幸都夭折了。儿子不断夭折，或许跟冯有茂夫妇吸鸦片有关，小科宝也算命大。
因为爹娘吸鸦片，家中潦倒，小科宝早年吃过不少苦，六七岁就开始干农活。后来哥哥当兵去了，小科宝这才替补读了十五个月的私塾，这是他一生中仅有的一次正规读书经历。
十一岁那年，小科宝失学了，混迹在父亲的营盘里，想着有一天能补上兵额，领些"恩饷"。
这样的机会并不难寻，等到营中有了缺额，管带苗某为他补缺，匆忙间想不起这孩子的大名，就随手写了"冯御香"三个字，后来小科宝嫌这大名胭脂气太重，便自作主张改成了"冯玉祥"。
