张华字茂先，范阳方城人，是西汉留侯张良的十六世孙。张华少年孤贫，牧羊为生，不过，同乡人刘放却认为张华有天赋异禀，于是把自己的女儿嫁给了他。张华学识渊博，言行谨慎，举止必合乎礼度，并且器量宽阔，胆识弘大，有其祖先张良的遗风。
陈留人阮籍看到张华所作的《鹪鹩赋》，发自内心的感慨道："这是辅助帝王建大业的人才啊！（王佐之才也）"从此张华声名鹊起，被朝廷任命为长史，兼中书郎。晋武帝受禅让即位，拜张华为黄门侍郎，封关内侯。
当初，武帝与羊祜暗谋划伐吴，群臣多以为不可，只有张华赞成这一计划。以后羊祜病重，武帝派遣张华到羊祜那里询问伐吴之计。羊祜向张华分析天下局势，当时吴主孙皓的暴政已到极点，伐吴时机已经到了，西晋可以不战而胜。但是，如果错过这个机会，孙皓不幸死去，吴人另立明主，那么西晋就算有百万大军，看着长江天堑，也是鞭长莫及！张华深为赞同羊祜的主张。
西晋大举伐吴时，张华负责运输粮草，大军浩浩荡荡地出发，却未获成果，贾充等奸佞奏请杀张华以谢天下。晋武帝明察秋毫，他认为根本不是张华的责任，等到东吴灭亡后，朝中抨击张华的奸佞立刻鸦雀无声，晋武帝因张华功劳很大，运筹于内，决胜于外，有谋划之功勋。于是晋封为广武县侯，增食邑一万户。
