1949年底，国民党军队大败，关提出辞职，退出军队，举家定居香港。
关定居香港后，深居简出，很少公开露面。多次邀请关来台，但关都拒绝了。当逝世时，关飞往台湾省吊唁。当时，许多人要求他去台湾定居，但关不同意。晚年，关积极投身于祖国统一大业，与留在陕西的亲人写了许多书信，字里行间流露出对家乡的怀念之情。1980年，因病去世，享年75岁。
