“祁连山”是匈奴语，匈奴称“祁连山”，祁连山的意思是“天山”。因地处河西走廊南部，历史上曾与雪山、白山并称南山。
祁连山是昆仑-秦岭地槽褶皱系的典型加里东地槽，褶皱早于陆相泥盆纪磨拉石建造。北祁连山和河西走廊的中、下泥盆统与下古生界(如武威的沙姆寺)和加里东晚期花岗岩(如九条岭南的马良沟)不整合。拉脊山见中、下泥盆统与中、上奥陶统不整合；南祁连山乌兰达坂，见上泥盆统与下志留统不整合，意味着东准噶尔晚期祁连山主要褶皱成山，基本由地槽向地台发展阶段转变。因此，晚古生代中、新生代为台地盖层沉积。
祁连山北界为塔里木-阿拉善地台，以大断裂为界。南界也与东昆仑、西秦岭褶皱系被一条大断层切割，两者沉积地层不同。如青海中乌弄山-南山的石炭纪、二叠纪为地槽沉积，局部有火山岩，而布鲁克隆起的寒武-奥陶纪为台地型砂页岩碳酸盐建造，厚度700-2000米，假整合于整个上元古界吉群之上。
