日本的史前文化分为两种,绳纹(Jomon)文化和弥生文化(Yayoi)。
大约35000年前,东亚大陆的旧石器时代人就陆续开始到日本列岛定居,在最后一个冰河时代的末期,大约一万年前,一种叫做绳纹的新石器时代文化发展了起来。绳纹狩猎采集者开始制作毛皮服装、木制房屋和一些世界上最早的陶制器皿,绳纹陶器最早出现在12700年前,来自最南端的九州岛。此后,陶器向北传播,大约在9500年前到达现代东京附近,在7000年前到达最北端的北海道岛。根据DNA分析,北方的阿伊努人可能是土著绳纹人的直系后裔。
绳纹人没有集约化农业,除了狗也没有家畜,没有金属工具,没有文字,没有编织,也没有社会阶层,陶器风格的区域性差异表明,绳纹人在走向政治集权和统一方面进展甚微。
公元前400年左右,来自东亚大陆的移民——弥生文化传入日本,把金属加工、水稻种植和纺织引进了日本。弥生文化的生活方式首先出现在日本最西南方的九州岛北岸,与朝鲜半岛隔海相望。日本开始进入无可争议的全面农业社会,农业以灌溉稻田的形式出现,包括运河、水坝、河岸和稻田。弥生时代新文化包括青铜制品、织布、玻璃珠、工具和房屋的风格。弥生农业迅速从九州发展到了邻近的四国岛和本州岛,在300年内发展到了本州岛寒冷的北端。弥生文化花了几个世纪的时间才首次显现出社会分层的迹象,尤其是在墓地,从公元300年到公元700年,一个政治上统一的日本开始出现。
人类学家对日本列岛的人口历史提出了各种各样的假说,并将其分为三种模式:变迁,更替和杂交。
第一个模型提出,现代日本人是由单一的祖先人口进化而来的。绳纹人生活在15000年至3000年前的日本群岛上,他们的形态特征被认为逐渐转变为现代日本人的典型特征。在这个模型中,弥生时代以后的移民对日本人的形成可能有文化上的贡献,但没有基因上的贡献,也就是说,大约2000年前东亚大陆的移民对现代日本人的基因贡献应该几乎为零。
第三种杂交模型认为,现代日本人是绳纹人与弥生人的混血儿。
全基因组单核苷酸多态性的研究有力地支持了杂交假说,即日本人是绳纹人与弥生人的杂交后代。至于和中国古人的关系,基因证据显示最初的绳纹人(阿伊努人)与我国北方人之间的分歧可以追溯到大约20000年前。