从先秦时代开始，就不断有大陆移民进入日本列岛。最早用文字撰述的日本史籍《古事记》、《日本书纪》中，把外来移民称之为“汉人”、“新汉人”、“吴 人”、“唐人”、“归化人”等。
大陆移民移居日本列岛的主要可分为四个时期，即秦汉时代——发轫期;魏晋南北朝时代——高潮期;隋唐时代——持续期;宋明 时代——终结期。其中也不乏日本朝廷为吸收先进文化，引进技术人才，多次遣使至中国大陆和朝鲜半岛寻觅、劝诱汉人来日等，种种因素推动了大陆移民的赴日高潮。
第一次是在秦汉时期(公元前3世纪至公元3世纪)。
其间流传最广的就是发生在秦始皇时期的徐福东渡日本的传说。在司马迁的《史记·秦始皇本纪》中中有这样一段记载：始皇二十八年：“齐人徐 (徐福)等上书，言海中有三神山，名曰蓬莱、方丈、瀛洲，仙人居之。请得斋戒，与童男女求之。于是遣徐福发童男女数千人，入海求仙人。”那么，徐福求药寻 仙最后去了哪儿呢?
据《史记·淮南衡山列传》记载徐福最后到达“平原广泽”之地，竟“止王不来。”据说，这“平原广泽”是今天日本的九州。在日本学术界， 研究徐福事迹的学术团体、学者和专家有很多，也有很多研究徐福事迹的文章、著作和专著，都确认了徐福到达并开发日本事实，徐福至今也仍受到日本民众的尊崇与爱戴。
不管徐福的传说到底怎样，但是有一个事实是毋庸置疑的，即在秦汉年间，就开始有中国人大量移居日本。
首先在秦始皇的铁骑横扫六国时。旧燕国和齐国民众为逃 避战乱，分两路逃亡日本：北路是燕国人由东北到朝鲜半岛再渡海到日本，南路是山东半岛的齐国人直接渡海赴日本。
其次是在西汉武帝时期。元封三年(前 108),汉武帝灭卫氏朝鲜政权，在朝鲜半岛北部设置乐浪等四郡。大量汉族人民随之移居四郡，其中有一部分不断往半岛南部迁移，直至跨海到达日本。
再次是东汉时期。此时中日之间终于建立了正式的官方联系。
据《后汉书·东夷列传》记载，公元57年，倭奴国来朝，汉光武帝刘秀封倭奴酋首为国王，并赏“汉倭奴国 王”金印一枚。1784年，倭奴国内发现“汉倭奴国王”五字金印一枚，证明了记载的可靠。另据日本史籍也有关于此事的记载。这个时候开始，就有一部分汉朝皇室成员(刘氏)因出使、避难等原因开始渡海来到日本。西文首氏(王氏)也有人到达了日本。
第二次是魏晋南北朝时期(公元3到6世纪)。
在四世纪末和五世纪初以及五世纪末，中原人民为躲避战乱，大规模迁徙日本群岛，形成两次日本史书称之为“归化人”赴日的高潮。主要祸根是由西晋末年八王之 乱所引发的百年内战(史称“五胡乱华”)，长期极其残酷的民族仇杀使大陆汉族人，尤其是中原的衣冠望族不堪忍受，开始了向四周大规模迁徙的浪潮：主要是南迁 江南，其次是由东北逃向朝鲜半岛，南北两路难民都有相当多的一部分最后去了日本。
在《古事记》和《日本书纪》等日本早期史书中，对这段时间大量来自大陆的归化人到达日本有着非常详尽的记载。在日本文书中常被提到的汉族“归化人”的代表，有弓月君(秦氏)、东汉直(刘氏)、西文首(王氏)等人。他们大都是来自朝鲜半岛的汉族“归化人”，有一个共同的特点，那就是，这些人常常自称为秦始皇或汉高祖的后裔。
例如，弓月君及其所率领的秦人，自称为秦始皇的后裔;阿知使主及其儿子都加使主率领的汉人，自称为汉灵帝的后裔;身狭村主青又自称为吴孙权的后裔;再晚些如司马达止等则自称为南朝司马氏的后裔等等。
据《古事记》和《日本书纪》应神纪所载，大约在四世纪初弓月君率其部民一百二十县(或一百二十七县)归化日本。这是后来被称作秦氏一族的来源。
到雄略纪时 (即倭王武时代，大约在五世纪后半)，收集秦氏遗族，共得九十二部一万八千六百人，赐其首领名为酒公。秦氏一族在长期的养蚕制丝业、农田水利和土木工程的 生产活动中，逐渐蓄积财富，变为具有实力的地方豪族，成为倭王的得力官吏，形成地域集团的首领，并加入倭王高级统治集团，由倭王赐姓为直，成为日本古代重要的氏姓巨族之一。
刘姓作为两汉皇族也是此时到达日本的汉族归化人的主力。历史上最有名的刘氏开拓日本人物，是今天日本原田、高桥、大藏等家族的共同祖先阿知王。阿知(也写作阿智)王，又称阿知使主，是东汉最后一个皇帝汉献帝的玄孙。日本原田家族族谱《大藏朝臣原田家历传》称，阿知王是汉献帝的玄孙。
当年曹氏灭汉建魏，汉献帝刘协被曹丕贬为山阳公，建都山阳郡下的浊鹿城(一名青阳城，在今河南省修武县东北)。阿知王在这时也随东汉皇室遗民便从洛阳徙居浊鹿。后来司马氏灭魏建立西晋，刘氏皇族地位表面上没有改变