过了一段时间，武则天又去找狄仁杰要人才。狄仁杰说："我不是给你举荐张柬之了么？但你没用他呀！"武则天说："我提拔他了呀！"狄仁杰回复道："我举荐他当的是宰相，而你却让他干的司马的活，这不能算任用人才。"武则天对狄仁杰还是非常信任的，于是回去后就提拔他当了秋官侍郎。
当宰相姚崇出任灵武军使，准备启程时，武则天问他："你觉得谁能接你的班？"姚崇说："张柬之深谋远虑，可担大任。但他年纪大了，你要用他的话就赶紧启用。"武则天看两位朝廷大佬都推荐张柬之，觉得他肯定有什么过人之处，所以便听他们的，授张柬之同凤阁鸾台平章事，晋升他为凤阁侍郎。张柬之也终于是当上了宰相。
