不过在校期间，尽管鲁德尔的成绩不好，但是他却对各种体育活动颇感兴趣，并且很小就展现出了运动的天赋，这大概也是后来他能够称为王牌飞行员的一个重要的先天因素。
不过，鲁德尔最初的飞行生涯其实和轰炸机并没有关系，甚至因为德国空军给他的结论，差一点就埋没了这位日后的超级英雄。1936年时，鲁德尔加入了德国空军，并在通过飞行训练和考核后正式成为一名飞行员。在当时鲁德尔就希望自己能够去驾驶JU-87型俯冲轰炸机，但是德国空军却驳回了他的申请，而是让他去飞侦察机。一直到1939年10月11日，因为飞行成绩优异，鲁德尔被授予二级铁十字勋章，而他趁机再次提出去飞JU-87俯冲轰炸机的申请，才最终获得批准。
1941年6月23日，苏德战争爆发的第一天，鲁德尔作为第一批越过边境轰炸苏联的德国飞行员，终于正式开启了他的王牌之路。在接下来的18个小时内，鲁德尔连续出动4次，持续对苏联的飞机场、兵营等重要目标实施轰炸，在战争的一开始，就摧毁了大量的苏军武装力量。1941年9月23日，这一天大概是鲁德尔最为辉煌的一天，因为在这一天，他驾驶着自己的JU-87型俯冲轰炸机，率队空袭了苏联波罗的海舰队的重要基地喀琅施塔得。
