神龙元年，武则天病重。为了防止大权旁落，她将权力交给了男宠张易之兄弟。张易之兄弟早就仗着武则天的权力在朝野为非作歹，此次有了武则天的授权，更是彻底把持朝政，将朝堂弄得乌烟瘴气。张柬之虽然是武则天手上提拔的，但他心中更忠于唐朝，忠于李氏一脉。所以他便与中台右丞敬晖、司刑少卿桓彦范、相王府司马袁恕己、崔玄暐等人密谋除掉张易之兄弟，逼宫武则天。后来他还策反了右羽林卫大将军李多祚。在李多祚的配合下，张柬之等人成功杀掉张易之兄弟，并前往武则天所住的长生殿进行逼宫。
武则天看着眼前一群狼心狗肺的"乱臣贼子"，怒斥了他们半天，可惜众人却无动于衷，坚持要武则天禅位给太子李显。武则天看大势已去，便颁布了退位诏书，次日传位给李显。唐中宗李显继位后，张柬之最开始还凭借拥立之功被提拔为天官尚书、同凤阁鸾台三品、汉阳郡王，食邑五百户，但不久之后便受到武则天侄子武三思的排挤。
再加上唐中宗李显为人懦弱，没什么主意，听信韦后的谗言，所以张柬之被贬，并被流放到泷州。不久之后他忧愤而死，享年82岁。而他之所以在后来的政治斗争中落败，除了唐中宗李显的问题外，还在于他没有对武氏集团斩草除根，导致反受其害。而后来的唐玄宗李隆基就聪明多了，一上位就急忙清除了韦氏和太平公主余党，稳固了自己的政权。
