有相士说："羊家祖坟有天子气，如果打开墓穴，就会断子绝孙"。羊祜就将祖坟挖开，相士接着说："还是会出现三公，只是要断臂"。后来，羊祜位居三公，却骑马摔断了手臂，而且子嗣断绝。
帝以其病，不宜常入，遣中书令张华问其筹策。祜曰："今主上有禅代之美，而功德未著。吴人虐政已甚，可不战而克。如舍之，若孙皓不幸而没，吴人更立令主，虽百万之众，长江未可而越也，将为后患乎！"疾渐笃，乃举杜预自代。
羊祜坐镇荆州多年，与陆逊之子陆抗对阵，双方不动刀兵，留下了"陆羊之交"的美誉。羊祜晚年，吴主孙皓残暴不仁，吴国国力凋零。而晋朝实力强盛，羊祜还在荆州，做了多年的准备伐吴工作。
所以，羊祜主张：即刻伐吴，倘若孙皓不幸亡故。吴国再出明君，纵有百万大军，也难以平复。并在临终前，举荐了灭吴的杜预。可以说，灭吴的操纵者是杜预，布局者却是羊祜。
