明初，朱元璋定鼎南京后，数次派使臣诏谕占据云南的梁王归顺，均遭拒绝，遂令傅友德、沐英率军征伐。傅友德征云南时带来的三十万大军，大部留驻云南，分拨于卫所。直到洪武末、永乐初，奉旨转驻山东各卫所军户一万五千余户，七万余人。这些军户虽大部分原籍并非云南，但长期驻守云南各地，妻室大部为云南土著之民之女，他们中有相当一部分子女是在云南出生，后来迁到山东而以云南为原籍，而迁居到山东的云南同乡们居地贯以小云南名之以示对云南故地的纪念，此为情理之中。但云南并非就是"小云南"。
小云南在山东说
小云南在山东的说法较为普遍，也被多数人所认同。
现收藏在辽宁省岫岩满族自治县王姓家中《王氏谱书》，即王春芳始修于1958年，王彦兴续修于1985年。其内容有谱序、世系等。谱书中所记王氏原居"山东小云南大榆树"，于清顺治八年(1651年)迁居辽宁入旗。所记"小云南"人小脚指甲分辨复形的特征和王氏从满习俗为其他谱书所不多见。
又据李林所著《满族宗谱研究》一书中宗族迁徙篇所记："由山东迁居关外的汉人，在籍贯上有两种，一种是山东小云南，一种是原籍云南，又迁到山东。小云南究竟在何处?辽宁省岫岩县《王氏谱书》记载：顺治八年始祖王明政率四子，从山东小云南大榆树迁来奉天城北康家屯定居。由此来判断，所谓的'小云南'乃泛指山东登州、莱州、青州一带的地方，并非现在云南省地方。"
今吉林省吉林市第一商业局张锡印所藏《张氏家谱》记载，张氏迁吉前原居"山东小云南大榆树下"，于清道光年间迁居吉林。这亦把小云南定在山东。另有今吉林省舒兰市白旗镇三胞亲友联谊会会长马镇洛先生所存《马氏家谱》所记，马氏原居"山东小云南马家庄"，清乾隆时迁吉林永吉县缸窑镇，后迁舒兰县白旗镇。
以上谱书记载，证实了小云南不在山西，也非指云南省而就在山东一说。并且，其地域范围在莱州、登州、青州即今山东半岛地区。
小云南在山东，已为大部分民间家谱记述佐证。那么小云南在山东何地呢?
明朝初年，倭寇不断侵扰沿海地区，今山东青岛地区，北东南三面环海，以山为岸，港湾交错，岛屿罗布，是为海防重地，为防倭寇侵袭，自洪武中先后在登、莱、青三州，设置七卫、十二所，即安东卫分辖东海中所(在今江苏连云港市)，隶青州府。大嵩卫分辖海阳所、大山所。靖海卫分辖宁津所。成山卫分辖寻山后所、百尺崖后所。威海卫分辖金山左所、奇山所，隶登州府。灵山卫分辖夏河寨前所、王徐寨前所，隶莱州府。洪武二十一年(1388年)开始在今山东即墨市东20公里边海筑城设防，并于建文四年(1402年)置鳌山卫(即今即墨鳌山卫镇)、分辖雄崖守御千户所(在今即墨市丰城乡雄崖所)和浮山备御千户所(在今青岛市浮山所)划境而治，直隶莱州府。直至清雍正十二年(1734年)，卫所等裁并于即墨县。
鳌山设卫后，明政府先后从云南乌撒卫等地调来许多军队，这些军队又自鳌山卫分拨到登莱青各卫所。其中仅鳌山卫辖墩堡四十余处，迁入军户约七万余人。这些军户的祖籍遍布江苏、安徽、浙江、江西、湖南、湖北、河南、河北、山东、四川乃至云南等广大地区。随傅友德平定云南后，便落籍云南守乌撒实行军屯。自洪武十四年(1381年)入滇，至永乐初年，驻守云南长达20余年，第二代也已长成。况且当年从军之时大部分只身一人，少数妻室家小是在驻守云南后随军，而独身者则多与当地女子结合成家，故转驻鳌山卫后，他们多以云南为原籍。查今山东省《即墨市地名志》记载，今即墨市30个乡镇近1000个村庄，半数民户多称祖籍为云南，或云南乌沙(撒)卫。亦有云南"槐阴县"、"威宁"、"毕阳县"、"乐歌屯"、"照阳山前"、"狮子口"、"凤仪县"、"哥嘎县牛角胡同"。而多数家谱为"云南乌沙(撒)卫，大槐树"或"乌沙(撒)卫槐树沟、大槐树里头"等。独无"小云南"字样。其迁移时间多为洪武末至永乐年间。而以随徐辉祖自云南乌撒卫转防鳌山卫者为多。《明史·四川土司传》说，乌撒，元置军民总管府。明洪武十六年(1383年)，蛮夷复叛，傅友德、沐英，因乌撒、乌蒙、东川、芒部四府离四川较近，上报朝廷，请将四府改隶四川获准。直到清雍正年间鄂尔泰命改土归流，因东川距昆明近而距成都远，经奏准将东川、镇雄、乌蒙复隶属云南，乌撒则隶属贵州。又据明万历版《即墨志》载：洪武二十四年(1391年)，即墨县人口为13480户，126800人。这其中鳌山设卫后一次性自云南迁来军户就达7万余人，占当时即墨总人口的60%还多，而这些军户以鳌山卫为中心分屯在即墨东部沿海，北至雄崖，南至浮山，包含今即墨全境和青岛市区。明代，鳌山卫是即墨的政治、军事中心，自云南迁来的军户，集居在这一地区，为不忘云南故地又区别于云南，而以小云南之名称于此地，是在情理之中。今吉林省的九台市东北部、舒兰市的西北部、榆树市的西南部这一地区沿松花江两岸即有"小昌邑"之称，正史虽不见记载，民间却广为流传。其名则源于清代乾隆以后，这一带属奉天府永吉州巴彦鄂佛罗防御旗管辖，而这一带的居民80%是在清代康熙以后来自山东莱州府昌邑县，为不忘故土，故冠以"小昌邑"之称。
另据今山东省昌邑县《谭府万世谱书》所记"……余谭氏之相传，于元明之际，自小云南鳌山卫迁邑城之北、潍水之东，庄名海眼……"该谱系谭玉湘修于清朝光绪年间，谭春和作序。这一记载明确表述了谭氏迁昌邑之前，原居住在鳌山卫，而鳌山卫即设在小云南这一地方。这种表述再清楚不过的说明了小云南即指今山东省即墨市东部沿海和青岛市区。今吉林省舒兰市白旗镇《马氏家谱》序言中亦表述了马氏原居"山东即墨小云南马家庄"，于清代迁吉林省永吉县的缸窑，后又迁到舒兰县的白旗镇。这些都足以说明小云南在山东，而确切地点在山东即墨东部沿海一带。
在今山东威海、烟台、潍坊等地区以及今东北诸省，许多姓氏家谱和口碑流传提及"小云南"之名。可以想见，这些家族的祖先必是洪武至永乐年间集居小云南(鳌山卫)的军户，自明中后期自小云南又迁徙到各地，因而在家谱中则有山东小云南字样。笔者的祖先，则是于明洪武十四年随傅友德入滇，又于明永乐二年(1404年)转防鳌山卫(自永乐以后鳌山卫地区开始有"小云南"之称)，又于永乐二十一年(1423年)北上，兄弟五人一迁北京上林苑，两迁潍邑(今潍坊)，一迁渔营，一迁海眼。笔者祖先即为海眼谭氏，又于清乾隆年间迁居吉林。
综上可知，"小云南"不在山西，也不在云南。小云南在山东，其具体地点即指今青岛市和即墨市的东部沿海地区，其中心治所即今即墨市
小云南是由云南北归的兵户聚集居住区域,这些人通常戏称这样的地方是"小云南",在山东，其具体地点即指今青岛市和即墨市的东部沿海地区，其中心治所即今即墨市,在山东的潍坊等地也有由云南北归而聚居的区域,也叫"小云南"
