他出生于一个世代为官的大家族，父亲当时在一个县里面做县丞，所以从小他便跟着父亲生活。小时候的他可以说是非常的聪颖，尤其是在文章方面有着独特的才能，不过才十三岁就写得一手的好文章。他十三岁的时候还曾写了一封信给广州的刺史，希望自己可以得到一个小官磨练一下自己，那个刺史看到他的信之后非常的惊叹，说他将来一定会成为一个了不起的大人物，所以自己不能够给他一个小官，而是希望他可以有更高的起点。他受到刺史的鼓励之后，信心大振，不久之后便立下大志。
他开始更加发奋的读书，几年之后便顺利地考取进士，当时的考功郎非常的欣赏他，便在女皇面前推荐了他，他不久被任用为校书郎。他很快到韶州去上任，那个时候当朝宰相张说得罪了女皇的宠臣被流放到外地，经过韶州的时候看到了他的文章，狠狠地赞叹了一番。当时张说在文人界可以说是非常的有地位，在朝中也是有名望的重臣。经过张的鼓舞，刚入仕途的他，可以说对未来的自己更加的迫切。几年之后，他进京参加吏部的考试，希望能够得到更好的机会，不久便被封为秘书省的校书郎，可是连续几年他都没有得到任何的调迁，失意的他竟然萌生了归乡的想法。
可就在这个时候，太子（即李隆基）有了动作，太子告知天下的有文笔的才子，要亲自进行策问选拔贤能之士。他觉得这是一个非常好的机会，便去应试，没想到太子对他非常的满意，不久之后他就升为右拾遗，得到了升迁。太子即位后，他被改任为左拾遗，为了能够在仕途上实现自己的大志，他上书皇上选拔人才一定要唯才不唯亲，帮助皇上整顿吏治。但是他却与当时的宰相非常的不对付，两个人总是出现意见不同的问题，可问题一直都在可以商量的范围之内，所以还能够和平相处。直到那一年秋天，他上书皇帝说他不适合再继续帮助再帮助宰相，宰相知道之后非常不满。
