进入湖北话剧团后，毫无表演经验的张金玲从零开始学习。她一边做报幕员，一边跟着老演员学习，还帮忙做杂活。由于她手脚勤快、不怕辛苦，深受老演员喜爱，他们都乐意教她。短短 4 年，她就成为了话剧团的女主角。
1974 年，上海电影制片厂重拍《渡江侦察记》，张金玲报名参加选拔刘四姐的演员。为了一个撑船跳的镜头，她在沙坑中练习了三个月，每天鼻青脸肿，甚至眉尾骨骨折差点毁容。但她的努力没有白费，最终脱颖而出获得出演机会。电影播出后，她的 "刘四姐" 形象英姿飒爽，一炮而红，这一版也被观众评为最佳版本。此后，她正式进入影视圈，拍摄了《大河奔流》《从奴隶到将军》等电影，还出演了《瞧这一家子》，迅速走红成为全国知名的电影明星。
尽管事业有成，但张金玲依然保持着农村的淳朴和善良。农忙时，她会回老家帮忙，工资也大多交给父母供弟弟们上学。1976 年，她在拍戏时结识了北京电影制片厂的演员徐敏，两人在朋友撮合下成为情侣，并于两年后结婚。当时张金玲名气大于徐敏，但这并不影响他们的感情，他们被观众视为银幕伉俪。
