薛举祖籍今山西万荣县（古河东汾阴），因其父亲薛汪在今天的甘肃兰州担任军官（金城校尉）的缘故，薛举也来到兰州生活。
隋朝末年，薛举接替了父亲金城校尉的职务，此时天下大乱，陇西地区农民纷纷揭竿而起，金城县令郝瑗召集几千士兵让薛举率领镇压农民起义。
薛举是一位野心家，当他接到镇压农民起义的任务时，开始琢磨，如今天下大乱，这可是反隋自立的大好机会，说不定我还能成就刘邦那样的伟业，于是薛举与儿子薛仁杲密谋除掉县令郝瑗再起兵。
一天郝瑗为了鼓舞将士们的士气，设宴款待部下。在酒宴上，薛举趁郝瑗酒醉之际发动攻击，以郝瑗蓄意谋反为由，将郝瑗及其属下拘捕，薛举不费一兵一卒夺取金城后，便高举反隋大旗。
