朝鲜半岛在古代是中国大陆和日本列岛间来往的桥梁，汉在那里设立的四郡，不仅是作为汉帝国统治东夷各国的直辖机构，而且也是向这些国家传播中国先进文明的根据地。日本列岛和中国的交往，首先就是从朝鲜半岛上的乐浪郡开始的，当时日本列岛的使者都是通过乐浪郡的陪送引率，才到达洛阳的。

    百济博士王仁携《论语》、《千字文》等儒家书物到日本，这一般被学者作为史籍有明确记载的中日两国间文化接触的开始。虽然汉字传到日本并不是从这时候开始的，但是中国的思想，以儒家思想为中心的意识形态，却是以此为嚆矢的。由此以后300年间，中国的先进文明，从文化书物、生产知识一直到风俗习惯都逐渐通过朝鲜半岛传到日本。

    从5世纪初传入日本直至平安时代（794—1192）末期的日本儒学，被学者称为早期日本儒学，是日本儒学发展史上一个不可或缺的重要阶段，它对日本文化的影响程度虽不及江户时代（1603—1867）的儒学，却超过了其他时代的儒学。这一阶段的儒学世代相传于博士学官家，在中央到地方的各级学校中讲授传习，是训诂性质的汉唐经学，尚无日本特色而有明显模仿痕迹，没有系统的理论著作，而是散见于政治文献、律令、历史著作与学者的汉诗文中，因此被有的日本学者认为“是文字上的知识，还没有进入日本人的生活”。

    但事实上，进入7世纪后，儒学的影响已日渐扩大。早期日本儒学对当时日本文化的各个领域都曾发生过影响，最主要的则是为日本古代天皇制国家提供了政治理念。

    7世纪初的日本仍处于以部民制为特征的奴隶社会阶段。“部”是皇室或贵族占有的人民集团，皇室或贵族对于被征服者和大陆迁来的移民，仍保持其原有的共同体，编成“部”加以统治，有从事农业的“田部”、从事手工业等专门职业的“品部”及“杂部”之分。“部民”的大部分是奴隶。奴隶主贵族和平民则组成称为“氏”的社会集团，其首领“氏上”是奴隶主贵族，一般成员“氏人”则是平民。天皇授予“氏上”以“姓”，用以区别其身份高低。到了6世纪后半期，部民制奴隶社会已面临严重的危机，社会生产停滞，奴隶纷纷以逃亡形式反抗奴隶制剥削，皇室与氏姓贵族以及氏姓贵族之间争夺土地与部民的斗争也愈演愈烈。

    562年，新罗崛起，灭日本在朝鲜半岛南部的侵略据点任那府，迫使日本退出了朝鲜半岛。589年，隋统一中国，结束了南北朝长期分裂的局面；618年，唐灭隋，建立繁荣的封建帝国，这些都使日本的统治者感受到来自外部的巨大震动。面临内外双重压力的日本不得不向社会变革寻求生路，对先进的异国文化采取开放态度。由于当时的日本除汉文化圈外尚未与其他文明发生直接联系，于是繁荣、强盛、文明的隋唐封建国家便自然地成了日本统治者实行社会变革和文化选择的范本。他们不断地派遣遣隋使、遣唐使前往中国大陆，并通过频繁的民间交流，主动地将隋唐帝国的封建生产方式和经济、政治制度以及法律、文学、艺术、宗教等移植到日本，完成了由奴隶制社会向封建制社会的飞跃。

    而在这种变革中，如何确立新的社会秩序原理和信仰体系，就成为当时亟须解决的最重要的问题。当时的日本人还没有其他的政治理论和道德规定，也不可能在短时期内创建自己的政治理论，于是已经传入日本的中国儒学的“天命”观以及“王土王民”、“德治”、“仁政”思想恰好符合了当时日本社会变革的理论需要。儒学就是在这样的社会文化背景下，为社会变革提供了政治理念；而社会变革的理论需要又扩大了儒学的影响，加速了儒学的传播。