大运河自修建以来，其主要功能之一就是“运送皇粮”。国家官员从河流涉及的省份收集米粒，然后沿着大运河运到贸易中心北京通州。因此，大运河也被称为漕河，运输的米粒也被称为“曹亮”。
因为元朝的大力改造，运河越来越直，在此基础上明朝进一步疏浚运河，大运河的水运价值迅速提升。大运河建成后，为了保证其随时畅通，运河航道的管理和维护变得越来越重要。
景泰二年(1451年)，明朝漕运出现问题，无法按时为北京运送水粮。有鉴于此，中央政府决定设立漕运总督一职，专职管理漕运。
第一代漕运总督是由当时的副省长王虎任命的，他在淮安。明代漕运总督的职责不仅是督促参与漕运的各省按时缴纳和运送水粮进京，还要监督运河航道的管理和维护。此外，漕运总督还有凤阳等地总督之权。
明成化七年(1471年)十月，鉴于运河航道堵塞，朝廷任命刑部左侍郎王澍为航道总督，驻山东济宁，专职负责运河管理和维护。从此，漕运总督和河道总督共同管理运河事务。
但明代的漕运总督、河道总督，大部分时候都不是固定的官职。只有在必要的时候，他们才作为中央政府的代表出京监督水运或治理河道，带有临时派遣的性质。
到了清代，朝廷对京杭大运河越来越重视，管理进一步加强。顺治元年，中央政府正式将水运总督、河道总督纳入官制。两任总督的军衔都是正、副，但这两个职务往往由兵部侍郎或都察院副司令担任。所以很多时候，水运总督、河道总督都出自一等官员，和地方总督是一个级别的。官帽均饰红宝石，绣袍饰九蟒五爪，辅服饰鹤。
但是水运和河道总督的收入并不是很高。年薪只有180两白银，年收入略高，大概一万五到三万两。
漕运总督有巡水缸、督粮、相知官职，河道总督将定为河道、厅、汛期三级管理机构，各级设置河道、总判官职。这两个总督管辖的军队，分别叫曹彪和贺彪。
清代黄河泥沙淤积严重，导致水患频发，运河管理更加困难和艰巨。随之而来的变化是，朝廷越来越重视河督一职，河督权力上升，逐渐超过水运总督。
有时候连河长都可以代理水运。但与此同时，由于运河情况复杂，管理维护难度极大，因此河长失守的风险系数高于水运长。到咸丰五年(1855年)，由于黄河改道山东入海，大运河严重堵塞，航运价值下降。漕运总督和河道总督自然也就不需要了，后来他们的职务也就相继取消了。
