到中央不久，李义府就有了一次展示自我风采的机会。一日，唐太宗在上林苑宴请群臣，席间他一时兴起，让大家以"鸟啼"为题赋诗助兴。没想到唐太宗话音刚落，李义府便第一个吟了出来。他的睿智马上引起了唐太宗的注意。过后，马周及朝中另一大臣乘机向唐太宗推荐李义府。唐太宗便召他前来，当场进行"面试"。尽管坐在面前的人是皇帝，但李义府却很从容，对答如流，且头头是道。看着眼前这位年轻人的不错表现，唐太宗大为高兴，随后下诏，封李义府为监察御史、诏侍晋王。
监察御史虽然只是个八品官，却掌管监察百官、巡视郡县、纠正刑狱、肃整朝仪等事务，权力一点也不小。上任后，李义府不负皇恩、忠于职守，其政治才华也由此开始显露。不过也正是从这里开始，李义府得罪了一大批违法的朝廷重臣。有人因此给他起了个外号："人猫"或者"李猫"（因为猫在抓老鼠时，不管多急，走路也总是悄无声息，而干掉老鼠后，猫依然显得神闲气静。李义府面慈心狠，打击对手不动声色，难以让人猜透，这点正和猫有异曲同工之妙）。李义府也因此深为违法官员所忌惮。
诏侍晋王，即在晋王李治身边工作。唐太宗将李义府安排在李治身边，其目的就是让李义府以才华、品行去影响、教导李治。
随着和李治接触的增多，彼此之间的感情也日益笃深。李义府不但身体力行要求李治时时分清善恶、坦诚待人，还专门写了一篇《承华箴》来劝导李治。李治读后感动万分，当即赏给李义府40匹丝帛。
贞观十七年，16岁的李治被册立为太子，李义府也随之被晋封为太子舍人，加崇贤馆直学士。六年后，李治一上台，就赐封李义府为中书舍人，并将他从崇贤馆直学士擢升为弘文馆学士，主要负责监修国史。
