河南省的大部分在黄河以南，但只有一小部分在黄河以北。所以称河南省是合适的，并不意味着所辖之地都是黄河以南，就像山东省原意是“太行山以东”。但是，并不意味着太行山以东的地方现在都归山东省管辖。今天太行山以西是山西省，太行山以东是河北省而不是山东省。
再说，河南省虽然有些辖区在黄河以北，但主要地区在黄河以南，叫河南很合适。
(图中红线是黄河。你可以看到河南的大部分在黄河以南。)
自元代以来，中国各省都尽量避免完全按山川划分，以防止地方政府依靠山川之险进行割据。
“河南”作为一个地方行政名称，最早出现在隋朝，隋朝政府在今天的河南省设立了河南县、荥阳县、陈留县、梁军县等县。
唐朝时，唐政府在河南设置了杜集路和河南路。
(唐朝的河南路基本都在黄河以南。当时河南路的面积比现在大很多。除了今天河南省的大部分，今天山东省、苏北、皖北的大部分都属于河南路。总之黄河以南淮河以北都是河南省的地区)
唐朝灭亡后，河南道被取消。北宋初，今河南省属京西路管辖。但“河南”的称谓并没有完全消失，只是降级为“河南府”，隶属京西路管辖。
由于级别的降低，河南府管辖的区域也大大缩小，只有洛阳附近的区域。
元朝政府将黄河中下游以南、长江中下游以北的整个地区合并为一省，设立“河南江北书省”，定都开封。因为这个省的名字特别长，所以常常简称为“河南省江北省”或简称“河南省”。此时河南省的江北省基本上还在黄河以南，但当时黄河入海口在江苏，所以元代河南省的江北省不包括山东。
(元代河南省江北省)
或许是因为疆域辽阔的缘故，元朝的行省都很大，但这种过大的行省不利于管理。于是，到了明朝，明政府对元朝各省进行了拆分，其中河南江北省被拆分为三部分，明政府在河南江北省西部设置了河南布政司(仍简称河南省)。
此后，为了治理黄河，满足防御的需要，明政府将黄河以北的几个州府划入河南省。到目前为止，河南省的行政版图基本和今天一样。
(明代河南地图)
