当时，南宋名将赵葵担任安徽军区司令员，余玠作了一首爱国诗词去拜见他，赵葵为词气的豪壮拍案叫绝，于是留他在参谋府中。不久，余玠立功升补为少尉副排长，后进入南宋工业部任科员。
公元1239年，与蒙古的士兵在安徽凤台、河阴等地作战，立有军功，任命为淮安市长，兼任淮南东路军参谋长。1241年，余玠率兵接应、援助江苏安丰，升任军区副司令员。
此时，他已经有了可以向皇帝上书的权利。余玠力陈，希望宋理宗皇帝对文武官员一视同仁，不要使他们有所偏重，偏重一定会导致过激的行为，文武之才，交相过激，并不是国家的福兆。
宋理宗，就是钦点文天祥状元的那位皇帝。他夸赞仪表堂堂的文天祥："此乃天之祥，宋之瑞也。"文天祥由此得名，并字宋瑞。宋理宗对余玠也是非常欣赏，说"卿人物议论皆不常，可独挡一面。"
