有史料表明，早在唐代，就有犹太人随商队从陆路经古丝绸之道来到中国。8世纪海路贸易开通后，又有一些犹太商人从海路来到中国，定居在广州、泉州、扬州和宁波等港口城市。 到了北宋，在繁华的都城开封形成了一个规模较大的犹太社团。他们很可能是由印度经海路抵华犹太商人，主要出售布匹。据记载，犹太人曾向北宋皇帝进贡西洋布，很得欢喜，并诏其“归我中夏，遵守祖风，留遗汴梁”。 1163年，开封犹太人在闹市区兴建了一座犹太会堂，被称为一赐乐业教清真寺。“一赐乐业”为Israel的译音。到明代鼎盛时期，整个社团约有5000人，大多是商人和工匠，也有些人考科举做了官。他们习用汉语汉字、改用汉姓，如列维改姓李，艾兹拉改姓艾，还与外族通婚，于是便逐渐同化了。到清朝后期，由于天灾人祸和文化融合，开封犹太社团就完全消亡了。
除了开封，宁夏、敦煌、洛阳、北京、杭州、宁波、扬州、泉州、南京、广州等地历史上也有过数量不等的犹太人。自元代以来，先后在汉文书籍中出现了“术忽”、“竹忽”、“主吾”、“主鹘”、“朱乎得” 、“祝虎”、“珠赫”等称呼，指的就是犹太人。除了明代的“一赐乐业教”外，称犹太教的还有“天竺教”、“挑筋教”、“古教”、“旧教”、“教经教”等。还有些中国人因分不清犹太人与回民的区别，只是看到他们戴蓝色的帽子，因此也叫他们“蓝帽回回”。据历史学家陈垣考证，最早出现“犹太”一词，是在道光年后。 到了近代，在香港、上海、哈尔滨、天津等城市又出现了新的犹太社团，他们有的是来华经商的塞法迪犹太人，有的是逃避反犹狂潮及内乱的俄国和东欧犹太人，还有的是从纳粹屠刀下亡命上海的欧洲犹太难民。到1941年，上海的塞法迪犹太人、俄国犹太人及欧洲犹太难民总共超过3万人，形成了远东最大的犹太社团。
早期来到古代中国的犹太人基本已经被中华民族同化,只保留了少数家庭,前几年还在凤凰卫视里看到个顽强保留的犹太宗教的河南人回到以色列的故事,那人通过了以色列政府的犹太人血统人证后已经获得了以色列国籍.
中国犹太人是分布在开封。中国犹太人是指生活在中国并且基本上汉化的犹太人。犹太人在更早的汉朝就已经来到了中国。从唐宋年间一直到清朝，犹太人都一直生活在一个相对隔离的社群中，大部分都居住在开封。中国犹太人是指生活在中国并且基本上汉化的犹太人，犹太人在中国的历史既悠久又神秘。虽然中国关于犹太人最早的文献记录可以追溯到公元7世纪到8世纪间，但犹太人可能在更早的汉朝就已经来到了中国。
从唐宋年间一直到清朝，犹太人都一直生活在一个相对隔离的社群中，大部分都居住在开封。到1949年中华人民共和国成立时，几乎所有的中国犹太人都放弃了他们的宗教和文化信仰。不过在20世纪末和21世纪初，一些国际犹太人组织开始帮助中国犹太人恢复他们的传统。
从人种上说，从公元9世纪末开始，西方旅行家或传教士们都强调过，在中华帝国内存在着犹太人。在元明至清代康熙年间，仍有犹太人在中国生活，只是由于明清交替的动乱、自然灾害等原因数量不多，17—18世纪之后，惟有当时的河南省开封的犹太人，尚能形成一个比较强大的民族和宗教社团。聚居在开封等地，被称为“蓝帽回回”。在这以后，经过战乱，逐渐与当地人同化。至今仍有他们的后代。利玛窦最早将犹太人在中国的信息传达给世界。当时的犹太人仍保留很多自己的风俗，只是逐渐已经参与科举等活动，也开始与其他民族通婚，对犹太语的经典也逐渐不再能认读了。从民族上说，传统的犹太人概念一是完整传承的犹太教，二是以纯粹的母系血缘来传递的犹太人家族，根据以上严格的甄别方式，以色列至今没有承认和认同中国犹太人后裔的犹太人属性，只承认有犹太人在中国的生活历史和现状。
