中国的儒家经典是经朝鲜传入日本的。成书于公元720年的日本第一部正史《日本书纪》记载:在应神天皇十五年八月,朝鲜半岛的百济国王派遣一个名为阿直歧的人送来两匹良马。阿直歧能读中国经典,于是太子菟道稚郎子便拜他为师。应神天皇问阿直歧:“还有没有比你更高明的博士?”阿直歧回答说:“有个叫王仁的,很高明。”应神天皇随即派人去百济邀请王仁。应神天皇十六年二月,王仁来日。太子又拜王仁为师学习中国典籍。成书于公元712年的日本第一部历史和文学著作《古事记》也有类似记载,还更加具体地说王仁带来了《论语》十卷和《千字文》一卷。这是有关中国儒家经典和汉字传入日本的最早记载。
经学者考证,应神天皇十六年相当于公元405年,也就是说中国儒学传入日本之始为5世纪初。《日本书纪》中还记载:应神天皇死后,菟道稚郎子本应继位,但他推让皇位于异母兄大鹪鹩,理由是大鹪鹩仁孝之名远闻天下,而且年龄大,应即位天皇。大鹪鹩则以父命难违为由,固辞不就。两人互相推让,以致造成三年空位。最后,菟道稚郎子自杀,以示辞让诚意。这被学者认为是仿效《论语》中所记载的中国周朝祖先泰伯与仲雍出走、辞让王位于幼弟季历的故事。另外,被认为写于5世纪并保存至今的日本文章中也有浓厚的儒家味道的文字,这也是中国儒家思想在5世纪时已传入日本的明证。
日本人系统学习中国儒家典籍及其思想,则是晚至6世纪的事了。据《日本书纪》记载,513年,百济国王派遣了一位名叫段杨尔的五经博士来日本,之后以轮换的办法向日本派遣五经博士。

孔子像
五经博士是中国汉武帝独尊儒术之后在朝廷中设置的学官,专掌《诗》、《书》、《礼》、《易》、《春秋》五经的传授。后来百济也仿照汉朝建立了五经博士制度。中国的儒家经典也通过百济的五经博士传到了日本。
但中国儒学在传入日本之初,影响并不广泛,与广大民众尚无接触。这是由于日本当时刚刚踏入文明社会不久,仍处于原始宗教文化占统治地位的阶段,因此,对于从中国传来的新鲜的生活或生产器具及进步的生产技术接受得比较快,而对先进文化的精神成果接受则较为缓慢。
在距今3000多年的商代,中国已进入文明社会早期,当时的殷人虽仍具有强烈的宗教意识,但与前不同的是,出现了“帝”或“上帝”这一至上神。“帝”具有绝对权威,统管一切自然现象如风雨、雷电、阴晴等,既是至上神,又是殷人的祖先神和殷王的保护神。
公元前11世纪,商亡周兴,全能的“帝”未能保住殷商统治的现实使“神事”重于“人事”的原始宗教文化受到巨大的冲击,使殷周之际发生了重大的文化变革。周初以周公为首的政治家们对殷代的上帝观念进行了修正,提出了“天命”观,“帝”或“天”仍是至上神,但不再是殷人祖先神那样的神,而要根据情况更换当权者。在这里,“帝”已由神秘的至上权威变成具有道德意识的最高道德监护者,已经被伦理化了,开启了中国伦理本位文化的先河。这一潮流在西周中后期和春秋时期更加理性化与哲学化了。在公元前5、6世纪的春秋时代末期,孔子继承与发掘了周初形成的伦理本位文化,进一步提出以“仁”为中心的儒家伦理哲学,基本上构成了中国的伦理观、政治观和世界观三者合一而以伦理为本位的文化模式,对此后中国民族文化心理产生了不可估量的影响。
对于作为理性文化产物的儒学思想,当时的日本尚无法产生共识。加之日本当时仅有口头语言,尚未创造出自己的文字;而要理解儒家经典,则首先必须认识汉字、读懂汉文,但这对于广大民众来说却是一条无法逾越的鸿沟,更为儒家思想影响的扩大增添了一重难关。