史书中并没有记载金兀术的出生年月，但从他的三哥完颜宗辅生于宋哲宗绍圣三年（1096）来看，金兀术应该是在不久后出生的。金兀术还年幼时，父亲完颜阿骨打便起兵反辽，他的哥哥们陆续成年从军，也让金兀术从小便耳濡目染，受到了武艺、兵法的熏陶。
游牧民族的孩子大多是从小便学习战斗，弓马娴熟，金兀术作为首领之子就更是如此。
天辅五年（1121），辽国都统耶律余睹前来投降，完颜阿骨打见状，断定辽国内部空虚，已经很难支撑，于是趁势对辽国展开了大规模战争。金兀术也第一次披挂上阵，为自己的部族战斗。首次出征的金兀术被安排进了叔父，都统完颜杲的部队里。
据《金史》记载："都统杲出青岭，宗望、宗弼率百骑与马和尚逐越卢、孛古、野里斯等，驰击败之。宗弼矢尽，遂夺辽兵士枪，独杀八人，生获五人。"金兀术首战便是和二哥完颜宗望一同追击三倍于己的辽军，在交战过程中，金兀术弓矢射尽，于是夺走了辽军士兵的长枪，独自杀了八人，生擒了五人，并从俘虏口中获取了有价值情报。
