皇甫规出身将门世家，祖父皇甫棱，曾任度辽将军；父亲皇甫旗，任扶风都尉。早年曾任郡功曹、上计掾、郎中等职，又调泰山太守，成功平定叔孙无忌起义。历任中郎将、度辽将军等职，多次击破、降服羌人，并缓和汉羌矛盾，与张奂、段颎合称"凉州三明"，官至护羌校尉。
皇甫规一生的最大功绩是招抚羌人，安定羌变，缓解东汉朝廷与羌人之间的矛盾。他生逢季节性乱世，素习羌事，反对对羌人一味镇压杀戮，而采用招抚政策。他认为羌戎溃叛，不由承平，皆由边将失于绥御；对于羌变，若求猛将，不如抚以清平之政；明习兵书，不如郡守奉法，使之无反。
他止书奏免了一批多杀降羌、不遵法度的官员。羌人由是感慕，前后相归降者逾二十万口。这对汉羌之间的融洽十分有利，更使边疆地方得以安宁。皇甫规一生清正，廉洁奉公，刚直不阿，不畏权奸，曾数次遭权幸奸党的陷害，但仍毫无畏惧，刚正不渝。他爱才惜才，荐贤委位，当年迈时即举荐才略兼优的张奂代替自己的职务。后张奂不负其望，在安定羌变中亦有殊功。
