从金兀术首战的表现看，他不但战绩精彩，勇猛凶悍，还十分淡定，仿佛天生就知道如何作战一般。天辅七年（1123），完颜阿骨打在灭辽不久后病逝，其弟完颜吴乞买继位，而北方的逐渐稳定也使得金军将目光转向南方的宋。
天会三年（1125），金国两路大军伐宋，其中，东路军的统帅便是完颜宗望。金兀术仍然跟随着二哥，担任东路军的行军万户。气势汹汹的金军面对久疏战阵的北宋军队自然是摧枯拉朽般连战连捷，仅仅过了半年时间，金国就占领开封，灭了北宋。
天会五年（1127），金兀术跟随乘胜追击的金军进一步南下，节节败退的宋军士气低迷，于是''宗弼败宋郑宗孟数万众，遂克青州。复破贼将赵成于临朐，大破黄琼军，遂取临朐。宗辅军还，遇敌三万众于河上，宗弼击败之，杀万余人……攻开德府，宗弼以其军先登，奋击破之。攻大名府，宗弼军复先登，破其城。河北平。''
鉴于伐宋战争中的优异表现，黄河以北地区初步平定后，金兀术便被委派驻守河间府，成为宋军北进道路上的一道雄关。天会六年（1128），金太宗下令追击南逃的宋高宗，金兀术领命南下，并在不久后受封为元帅右监军。
