张苍此后跟着刘邦等人，小心谨慎地做事，受到许多嘉奖。刘邦建立汉朝后，萧何任丞相，萧何不懂历法和礼乐，所以邀请张苍负责，张苍精心制定历法被汉朝乃至后世参考使用，功在千秋。汉文帝继位后，张苍已经垂垂老矣，在丞相灌婴去世后，张苍担任丞相。
张苍学问高，很多人对他非常仰慕，所以他的学生特别多，最出名的莫过于那个写《过秦论》的贾谊。能培养出这样的徒弟，也能看出张苍确实学识渊博。张苍90岁的时候，因为年迈，牙齿掉光了，口齿不清，所以辞去丞相职位。
张苍活到了103岁，他很会养生，但张苍的长寿秘诀，却被人诟病。《史记》记载：
