匡衡决心步入仕途时一共经过了九次考试，最终仅仅考取了丙科，根据汉朝的规定他只能做太原郡的文学卒史，但是当时的经学家十分推崇他对于《诗经》一书的见解，当时还是太子的汉元帝也对此人颇感兴趣，经常会邀请匡衡听他讲述知识。汉元帝即位后出于对匡衡的欣赏，便将他升迁为博士，改授"给事中"一职。
受到重用的匡衡
匡衡十分精通《诗经》，因此说话的时候也常常引经据典。有一年长安附近发生了日食，地震等自然现象，在古人看来这是不详的征兆，汉元帝为此大为惊慌，于是匡衡就引用诗经上的话来劝谏皇上。大意是今天国家遭遇了天灾，造成了很大的损失，从此之后宫廷中的开支一定要节俭，不要过于奢华，把节省下来的钱用来赈济百姓，重用具有才能的贤良，辞退尖酸刻薄的小人。另一方面匡衡又引用《诗经》的句子来安抚遭受天灾的百姓。
汉元帝认为匡衡是一个十分有才华的人，从他的提议中也可以看出，他其实也是一个很好的官员，由此汉元帝也开始了他的一系列改革，将匡衡提拔为光禄大夫，并任命为太子太傅，也就是教太子读书的老师。升任为光禄大夫后他在朝中的地位也逐渐变得重要起来，满腹的才学也被他发挥的淋漓尽致。自汉武帝起便有"罢黜百家，独尊儒术"这一风气盛行，因为精通儒学的匡衡地位不断的在提升，从御史大夫一直到丞相之职，可谓是一人之下万人之上了。
