隋代时的山阳渎，在唐宋的时候改名为扬楚运河。扬楚运河中，盱眙至淮安这一段风浪比较大，特别是山阳湾这一段尤其风大浪急，不时有船只倾覆。宋神宗时期（1068），淮河每年在这一段沉没的船只达170艘之多。负责运送漕粮的官员蒋之奇说："淮迩（每）岁溺公私之载不可计，凡诸道传输，涉湖行江，已数千里，而覆败（没）于此百里间，良为可惜！"（《宋史》卷九十六《河渠志》）。
为了避免长江淮河的风险，宋代的人做出了许多努力。太宗雍熙（984～987年）中期，转运使刘蟠建议开凿一条新运河来避开淮水的风险，但是没有被接受。乔维岳继承了转运使的职位之后，开凿了自楚至淮阴的运河，差不多有60里。宋仁宗后期（1049）年，马仲甫当上了转运使，他向上建议开凿洪泽渠60里，没有被接受。许元接任转运使之后，开凿了一条新运河，新运河在淮阴，有效地避免了长江淮河的风险，有49里长，但是时间一久，水道又堵塞，难以行进。等到宋神宗熙宁四年（1071），皮公弼又疏通了这条运河。直到南宋时期，这条运河还在通行漕运和货运的船只，这说明了北宋时期针对扬州、楚州运河的经营以及运河起到的作用，都超过了唐代。但是，这段运河长度不够，能够连接的地域有限，没有在全国范围内起到文化和物资交流的作用。
许元接任转运使之后，开凿了一条新运河，新运河在淮阴，有效地避免了长江淮河的风险，有49里长，但是时间一久，水道又堵塞，难以行进。等到宋神宗熙宁四年（1071），皮公弼又疏通了这条运河。直到南宋时期，这条运河还在通行漕运和货运的船只，这说明了北宋时期针对扬州、楚州运河的经营以及运河起到的作用，都超过了唐代。但是，这段运河长度不够，能够连接的地域有限，没有在全国范围内起到文化和物资交流的作用。
到了南宋时期，运河能发挥作用的范围更加缩小。"绍兴初，以金兵蹂践淮南，犹未退师。四年（1134年），诏烧毁扬州湾头港口闸、泰州姜堰、通州白蒲堰；其余诸堰，并令守臣开决焚毁，务要不通敌船。又诏宣抚司毁拆真、阳（扬）堰闸及真州陈公塘，无令走入运河，以资敌用"（《宋史》卷九七《河渠志》）。南宋初年，因为和金兵交战，运河的堰闸被毁坏，运输受到极大限制。到了绍兴五年（1135），因为金兵后退到了淮河以北，南宋的统治者又下诏命令淮南宣抚司役使民工开凿修缮瓜洲至淮口运河堵塞的地方，受到金兵毁坏的运河才得以逐渐恢复，但是，因为修缮不够彻底，该段运河的运输作用受到极大限制。运河的功能很有限。
