在唐玄宗时期，就据说有过他的故事，唐玄宗因为看着他老，就让人当场拔掉了他牙齿和头发。而张果老反而从看起来老态龙钟的样子，变成了一个年轻男子的模样。唐玄宗感到非常神奇，便立刻向他询问，关于长生不老的秘密，但是张果老并没有说话只是摆摆手，就离去了。传说中这个时期的他告诉过众人，他已经活了3000多岁了。
张果老的标志性物件，就是那头走到哪就骑到哪的白驴。据说他的这头白驴不喝水不吃饭，驮着张果老走很长时间也不会觉得累，因为它是一张纸变幻成的。
而张果老一般都是倒着骑驴的，传闻，有一次他经过赵州桥的时候，发现鲁班正在建桥，于是他过去，和鲁班打了个赌，说这个桥托不住自己和驴，如果托得住话，自己以后就倒着骑驴，托不住的话就让鲁班从此隐姓埋名。
为了赢得这个赌约，张果老在过桥的时候，施加了一些法术，即使是再好的桥也经不住这样的压，于是桥上很快便有了明显的裂痕，鲁班一看到这个情况，就立刻跳进了河里用手托起了桥。张国老看他对于建桥这件事情真的是特别上心，为人又不狂妄，于是就收回了自己的法术，乐呵呵的倒骑着自己的白驴离开了这里。
