张臶是河北巨鹿人，年轻的时候曾经在京城太学读书，颇有名气。毕业后就回到家中，也不考公务员，也不去找工作，闭门读书。河北是袁绍的地盘，他听说张臶很有学问，就诚聘他到自己身边工作。没想到，张臶却冷冷地拒绝了。
建安年间，张臶移居山西上党，袁绍的外甥、并州牧高干请他当乐平县令，张臶还是拒绝。为了躲避朝廷的聘用，他离开上党，来到常山这个地方，授徒讲学，就是不入仕途。
等到曹操掌权，也向张臶发聘书，张臶还是拒绝。不愿意当官的张臶熬死了当时天下最有权势的曹操，又熬死了曹操的儿子曹丕，曹丕的儿子曹睿上台，继续聘请张臶。这个时候，张臶已经年过九旬了。他还是不去。
