公元618年，张亮跟着上司徐世绩一起投靠了唐朝，被任命为检校定州别驾。这时候天下还没有完全平定，张亮就被派去讨伐乱军，在驻守安阳城时，看到敌军的人数较多，几乎没有任何犹豫，张亮果断弃城逃跑了。令人意外的是，张亮不仅没有因逃跑受到惩罚，反而被提拔重用，在秦王李世民的麾下担任车骑将军。
玄武门之变前，秦王与太子之间就在明争暗斗，深知以上不容二虎的道理。在这种情况下，李世民就秘密召见张亮，让他到各地联络豪杰，顺便招兵买马，以防万一。张亮高兴的不行，连夜带人离开了京城，却被李元吉察觉，立马将张亮打入大牢，并以图谋不轨的名义准备将他处死。
李元吉就对张亮说道："你若是一口咬定幕后指使人是秦王的话，我不仅不会杀你，还保你荣华富贵，你觉得怎么样。"张亮虽然胆小，但他这一次却做出了正确的选择，不管李元吉威逼还是利诱，他一直保持沉默，一个字都不说。后来，李世民出手将张亮救出，认为他是个值得信赖的重臣，将他看作自己的心腹，两人几乎无话不说。
