在汉代选拔人才除了靠官员举荐，政府为了缓解财政危机，也鼓励大家捐资为官，武帝晚年，黄霸因为家里比较富裕，捐资做了武帝身边的侍从官。
最初黄霸的运气欠佳，因兄弟犯罪受到牵连被免官，不久汉朝设立沈黎郡，缺少粮食，黄霸向朝廷捐谷求官，再次步入官场，担任左冯翊。因为黄霸依靠捐资为官的缘故，并不受朝廷器重，朝廷只分给他一些杂活。但是黄霸并没有为此感到气馁，而是兢兢业业，认认真真做好自己的本职工作。
时间一长黄霸便受到长官的信任，升任河东"均输长"，主要负责郡国钱粮的买卖、征收和运输。
管理钱粮可是一个肥差事，黄霸在任期间经过他手的钱不计其数，但是黄霸却不为所动，他坚持自己的原则，既不贪污也不吃回扣，时间一长，黄霸给自己赢来了廉洁的美名，不久黄霸依靠清正廉洁之名被朝廷提拔为河南太守丞（太守的助手）。
