永乐十九年（1421年），于谦参加科举，考取了辛丑科进士，自此就步入了官场。 初入官场的于谦，并没有同其他人一样，首先为自己谋点利益。而是处处照顾老百姓，为他们平反冤屈，为当地的老百姓所拥戴。宣德元年，汉王朱高煦起兵谋反，于谦随明宣宗亲征。平息叛乱后，于谦当面数落汉王的罪状。直接将这位汉王骂得抬不起头，羞愧难当。
于谦在为官期间，心系百姓，为百姓们办实事。亲自走访自己所管辖的地区，访问当地的父老乡亲。但是那是一个奸臣当道的时代，在主持朝政的内阁"三杨"去世后，太监王振开始掌权。王振在朝廷百官的面前作威作福，还公然地接受官员的贿赂。一时间，朝廷中形成了一种不良的风气：每逢朝会期间，进见王振者，必须献纳白银百两。于谦对这种行为非常的不屑，从来都不带任何的东西去贿赂。有人就开始劝他了："您不肯送金银财宝，难道不能带点土产去？"于谦潇洒一笑，甩了甩他的两只袖子，说到："只有清风。"
很快，朝中的奸佞小人们就开始对于谦不满了。因为在他们看来，于谦的清高，正好显示了自己的黑暗，同时也触犯了自己的利益。况且，于谦为性格刚强，历来就看不起无能没有担当的官员，遇到很多的问题都不吐不快。因此也得罪了不少的官员，很多人甚至对他无比的憎恨。
