北宋建立后，林仁肇意识到了这个崛起的新政权的威胁。于是在970年（开宝三年），林仁肇私下向南唐后主进言道："淮南兵力很弱，宋国又连年用兵，先后平定西蜀、荆湖、岭南，千里奔波，士卒劳累，这正是可乘之机。陛下只要给臣数万兵马，臣就能夺取淮南。陛下可以对外宣称臣起兵反叛，那么臣若成功，淮南归国家所有，臣若兵败，陛下便灭我满门，以此表示陛下并不知情。"
但是可惜的是，他遇到的是一个只知道吟诗作画的君主，后主听了他的进言之后，反而惊道："你千万不要胡说，这会连累到国家的。"或许是因为李煜觉得林仁肇是个好战之人，因此不喜欢将其放在身边，也不愿意重用他了，于是便令其改任南都留守。
