洪武三十一年十二月，继位后还未更改年号的朱允炆为防燕王起事，命工部侍郎张昺为北平布政使，谢贵、张信等人为北平都指挥使，同时令都督宋忠进驻开平，暂时性剥夺了燕王军权，此时能调动的只有藩王卫兵。
北平的异动迫使南京采取进一步行动，朝廷下密旨令张昺等人捉拿燕王以及属官，但张信却做出了极为重要的抉择，他选择将此事密奏朱棣。接到消息后的朱棣密令张玉等人领八百亲兵入府宿卫，同时假意捆束属官请张昺前来查验。张昺等人虽有防范，但因事出仓促，进入府中便被燕王等人擒下。朱棣旋即出府缴获官军武装，进而联络旧部攻下九门，控制北平。
朱棣从起兵到控制北平，完成军事力量和后方积累的第一步，无论从前期密谋计划还是带兵执行，起到了最为重要的作用是张玉而非人们印象中的谋士姚广孝。
而真正能体现张玉帅才与将才的能力还是在战场之上。燕王初起兵之时虽兵力较少，但因长期主管北境边防事务，发难之际便迅速重新掌握一藩兵权，然而相较于南京朝廷动辄数十万北伐大军而言仍是举步维艰。
