诸葛亮的亲身父亲叫诸葛珪做的是泰山郡的郡丞。但是死的很早，诸葛亮和他的哥哥诸葛瑾、弟弟诸葛均都是由他的从父诸葛玄养大的。而诸葛玄最早是跟袁术混的："为袁术所署豫章太守"（《三国志·诸葛亮传》）。当时整个关东地方已将一团混乱，像袁绍、袁术这样级别的大军阀有实力举荐小军阀当一个地方的太守，曹操当年也是被袁绍"表"（相当于现在的推荐并任命的意思）为东郡太守。可见袁术还是很看重诸葛玄的，于是诸葛玄就带着诸葛亮和诸葛均前去上任，诸葛瑾已经成年（生于公元174年），就和大家分开，之后在曲阿加入了孙策的队伍。
就在这个时候，大汉朝廷派一个叫朱皓的人来当豫章太守这下一个地方有了两个领导，就有故事了。这时候史书有两种说法，一个是《三国志》的说法："玄素与荆州牧刘表有旧，往依之。玄卒，亮躬耕陇亩，好为梁父吟。"（《三国志·诸葛亮传》）这个说法给人的感觉是诸葛玄就带上诸葛亮兄弟两个一起前去投奔和他关系很好的荆州刺史刘表，最后死在荆州，诸葛亮兄弟就在荆州安顿下来，诸葛亮时常下地耕田，还顺便唱唱歌，日子应该过得不错。
另一种说法就比较残酷。这个说法来自裴松之注三国志时候引用的一本书，叫做《献帝春秋》："初，豫章太守周术病卒，刘表上诸葛玄为豫章太守，治南昌。汉朝闻周术死，遣朱皓代玄。皓从扬州太守刘繇求兵击玄，玄退屯西城，皓入南昌。建安二年（公元197年）正月，西城民反，杀玄，送首诣繇。"这里举荐诸葛玄的人变成了刘表，朱皓从当时的扬州刺史刘繇手里借了兵，诸葛玄打不过，逃到西城，最后被西城的人杀了，脑袋搬家去了刘繇那里。
