1、公元前486年，吴王夫差首次在扬州开挖邗沟，沟通了长江和淮河。
2、大业元年(605)，隋炀帝征发江南、淮北100多万民工，在北方修通济渠，从洛阳西苑通到淮河边的山阳(今江苏淮安)。同年，又征发淮南10多万民工，把山阳邗沟加以疏通扩大。大业四年(608)，征发河北民工100多万人开永济渠。这条河主要利用沁水的河道，南接黄河，北通涿郡。大业六年(610)，在长江以南开了一条江南河，从京口(今江苏镇江)引江水穿过太湖流域， 直达钱塘江边的余杭(今浙江杭州)。前后用了不到6年的时间，大运河的全线工程告成。
3、到13世纪的元代，为了缩短从北京到杭州绕道洛阳的航线，先后挖通了北京到通县的通惠河、山东临清到东平的会通河、东平到济宁的济州河。把运河改成直线后，比隋代京杭运河缩短了900多千米。
