民间传说，大禹治水时，每次治水都铸一头铁牛沉入水底，意在制服洪水。后人迁居岸边，镇上杀水兽的习俗也一直流传下来。在古代朝代，南北方所有的水兽，不论犀牛、公牛的形状，都是用铜、铁等金属制成的，因为古籍中有记载“龙怕铁”，这就是五行之说。
在古代，由于科学能力的限制，人们把“河水的危害”归结为“水精”(蛟龙)的滥用，认为只要震慑、制服水中的妖怪，就可以抑制洪水的发生。所以治水神兽的存在更多的是一种美好的幻想，因为在古代，洪水泛滥是极其可怕的事情。
