公元626年7月1日，也就是玄武门之变的前一夜，此时已经是火烧眉毛，如不快刀斩乱麻，便是你死我活。晚膳过后，李世民把尉迟恭长孙无忌以及张公瑾招到帐下，顺便请来了宫中术士。此时三人知道，李世民也已经下定了决心，只不过这个决定是交给了占卜术士的测算。正当术士准备扔下龟甲时，张公瑾说时迟那时快抢走了龟甲，还没等李世民开口，张公瑾义正言辞的说道：天意吉凶是命，倘若占卜为凶，我等是不是坐以待毙，等太子诛杀我等叛将。
此时的李世民突然明白了什么，不是天意，事在人为。也正是张公瑾的这一举动，打开了玄武门之变的不确定。
公元626年7月2日，玄武门之变动发生了，而在玄武门之变打得最激烈的时候，太子李建成的亲兵就迅速过来支援。张公瑾以命相搏，在玄武门之变顺利结束之前，将李建成的援军阻挡住了。那个时候李世民手上的兵力十分薄弱，如果让李建成的支援部队杀进来。即使消灭了李建成和李元吉，那李世民也难逃一死。张公谨带领一小部分人奋力杀敌，在关键时刻关上玄武门的大门将李建成的军队挡在了玄武门门外。
无左吴、赵贤，则淮南不能谋逆；无宇文述、杨素，则杨广不能夺嫡；无张公谨、尉迟敬德，则太宗不能杀兄；天下之乱，酿成于徼幸功名者之从臾者类然也。
