古人修運河分幾個步驟：

先從洛陽西苑到淮河南岸的山陽(今江蘇淮安)，開通了一條叫“通濟渠”的運河，即從洛陽引谷水、洛水入黃河，再引黃河水入淮河；再從山陽到江都(今江蘇揚州)，疏通并鑿深、加寬了春秋時期吳王夫差開的一條叫“邗溝”的運河，即將淮河和長江連接了起來。這樣一來，從洛陽到江南的水路交通就十分便利了。605年，隋煬帝征發“河南、淮北諸郡民前后百余萬”開通濟渠。早在戰國初期，魏國就開鑿了鴻溝（引河水循汴水，折南循沙水入潁）。通濟渠是在鴻溝和下游的汴河兩水基礎上，加以疏浚的。通濟渠自洛陽城西引谷水、洛水入黃河，再自板渚（為板城渚口的簡稱，在今河南滎陽汜水鎮東北黃河側）引黃河入汴河，經今河南開封東南入淮河。。由于渭水多沙，深淺不一，行船不便，就在渭水南邊開了一條從長安東到潼關入黃河的運河，長300多里，名廣通渠。隋大運河全部完工以后，南北的物資可直達長安。