同年刘长佑进京参加会试，而当时的主考官正是他的同乡前辈曾国藩。曾国藩见刘长佑行事稳重，又是自己同乡，于是便向他索要楷书，提前记住他的笔迹，提携一下后辈，但刘长佑却黑着脸没有答应，令曾国藩尴尬之余愈发欣赏。
科举没有让刘长佑平步青云，改变他人生轨迹的，是太平天国运动。1852年，刘长佑作为一位儒生，率军讨伐太平军。在战场上，刘长佑的表现比许多久经沙场的武将还要出色，他战功卓越，深受朝廷信任，成为湘军名将。
镇压太平军以后，刘长佑先后任两广总督、直隶总督，1875年又调任云贵总督。在担任云贵总督期间，刘长佑大力练兵，同时坚决主张援越抗法，抗击法国人的侵略。抗法名将刘永福正是在刘长佑的推荐下得到重用，在越南给予法军重创。
刘长佑作为儒将，没有拘泥于纸上谈兵，他眼光深远而敏锐，提出许多独到的见解，其中尤以提前攻打日本最为惊世骇俗。
日本侵占琉球以后，清朝对此反应平平，包括慈禧在内的许多统治者认为琉球太远，又没有什么价值，出兵得不偿失。然而刘长佑看出日本的狼子野心，他认为日本侵占琉球只是第一步，若是清朝对此没有反应，日本的野心将会进一步膨胀，入侵朝鲜、侵略中国势必会在未来发生。刘长佑认为，还不如趁日本羽翼未丰，清朝海军强大之机，主动攻打日本，消除威胁。
