由于正值汉代年间，所以儒家思想是当时的主流思想，自然皇甫嵩打小的时候起，接受的就是儒家文化的熏陶，对《诗经》、《春秋》等书也是倒背如流，还经常将圣人所说的话，当成激励自己的名言警句。除了在读书学习方面，皇甫嵩得到了良好的教育，就是武艺方面家人也是很早就对他进行了训练，骑马射箭样样精通，还多次上阵杀敌，对很多兵书中的内容了如指掌。
等到皇甫嵩长大成人后，没几日就成为了孝廉和茂才，后来还被指派到地方当了一个县令。对于皇甫嵩将来的仕途，很多在朝为官的大臣们都很看好，甚至是高高在上的太尉陈蕃以及大将军窦武这样赫赫有名的人物，都想把他招入麾下。只是皇甫嵩并没有领情，把他们全都拒绝了，去当了北地太守。
