黄霸除了廉洁还有治国安民之才，他熟悉汉代律法，驾驭众人能力强，对待同僚非常温良恭俭，对待老百姓非常友善，一点也没有富家纨绔子弟的浮夸，为此黄霸受到太守的信任和百姓的拥戴。此后太守常常把自己手头上重要的事务交给黄霸办理，老百姓一旦遇到什么问题，也喜欢找黄霸解决，渐渐地黄霸的名气越来越大。
汉昭帝刘弗陵即位以后，由霍光辅政，当时上官桀因对霍光不满联合燕王刘旦预谋谋反，霍光铲除燕王等人以后，开始沿用武帝时期的严刑峻法来约束臣民，致使官吏崇尚严酷的刑法，并以此为才能。
而黄霸却是个例外，他崇尚文治，以宽厚温和的政策为才能，黄霸的文治精神如同冬天里的暖风，夏天里的空调，给老百姓带来了温暖的气息，为此也给自己赢来仁德的贤名。
汉宣帝刘病己继位以后，由于他长于民间，坐过几年牢的缘故，对老百姓的疾苦生活非常关心，对那些欺善扬恶、仁政爱民的官员也非常了解。
