张廷玉生于1672年，字衡臣，是安徽桐城人。张廷玉的父亲叫张英。
张英是康熙时期一名非常有名的大臣，官至文华殿大学士兼礼部尚书，相当于丞相。张英为人宽厚正直。有一年，张英的家人与邻居在宅基的问题上发生了一番争执，互不相让。当地官员不敢轻易断案。张英知道这件事后，挥笔题诗："一纸书来只为墙，让他三尺又何妨。长城万里今犹在，不见当年秦始皇。"张英的家人知道张英的心思，将宅基退让了三尺。邻居很感动，也退让了三尺。两家人之间，形成了一条六尺宽的巷子。2016中央电视台春节联欢晚会上，赵薇所唱歌曲《六尺巷》，说的就是这件事。
张廷玉比张英的名气大多了。他历经康熙、雍正、乾隆三朝而不倒，"登朝垂五十年，长词林者二十七年，主撰席者二十四年，凡军国大事，奉旨商度"，是清朝中期的政坛常青树。
我们知道，清朝参照明朝惯例，没有设置丞相职位，取而代之的是内阁大学士和军机大臣。内阁大学士从清朝入关以后就设置了，军机大臣却是从雍正时期才开始设置。1729年，雍正皇帝在隆宗门设置军机处，将军需事宜交给怡亲王胤祥、大学士张廷玉、蒋廷锡办理。张廷玉变成为第一任军机大臣。
