黄甫嵩成年之后，由于自身杰出的天分被推选成为茂才，因此得到了入仕做官的机会，曾经在地方上担任县令，很多人都看好他能够成为国家栋梁，就连当时的大将军都曾想要拉拢他加入到自己的阵营之中，但是面对许多人的讨好，他都拒绝了，在之后由于出色的业绩胜任太守一职。
由于北方是少数民族活动频繁的地域，此时皇甫嵩开始了自己的军旅生涯，等到了东汉末年，爆发了重大天灾，当时朝廷宦官专政，发起了"党锢之祸"肆意残害有志之士，大量土地财富都聚集到了宦官手中，使得当地百姓苦不堪言，朝中大臣为了保全自身，纷纷视而不见，更加深了人民的愤怒。
此时朝廷遇到了建国以来最大的危难，社会动荡，人心惶惶，眼看着就要失去了对百姓的控制，就在此时一个名叫张角的人率领自己的弟子做乱了，他广收教徒，迷惑百姓，聚集了一大批人士密谋造反，就在行动之前，不知道为何走漏了消息，朝廷派人前来搜捕张角，不得已张角只能提前起兵，率领众多教徒攻占城池，杀害官员。
随着时间的推移，起义军声势浩大，一度打入王朝中心区域，如此一来使得朝廷大为惊慌，汉灵帝急忙召集大臣上商量对策，此时一个人站出来了他就是皇甫嵩，皇甫嵩向皇帝进言道："陛下可以多多赏赐财务给士兵，以此来激发他们的士气，并且赦免那些被囚禁的人"只有这样士兵们才能拼尽全力手守卫都城，汉灵帝接受了他的建议并且派他担任左中郎将，前往战场镇压起义。
