为了培养变革的人才，就要模仿日本，向先进的文明国家派遣留学生。日本在明治维新以后虽然国势渐强，但中国对日本的看法尚未完全改变。因此清政府最初并没有向日本派遣留学生，也根本没有向日本派遣留学生的计划。中国曾向美国派遣了四批幼童留学生，但由于国内保守势力的阻碍，很快就夭折了。后来又曾派过一些留学生到欧洲学习海军、陆军和制造。在这些学生中虽然也曾出过像詹天佑、严复那样的人才，但影响并不大。

    然而1894年甲午战争中，日本竟使洋务派倾注全力打造的北洋陆海军全军覆没，使中国人的日本观发生了根本的变化，无论是官方还是民间都认为应该向日本学习。而且他们认为，中国以日本为师有许多方便条件和有利的文化因素，比如中日两国地理相近、交通方便、风俗相似、文字易懂；两国原来所处的社会性质、受西方冲击压迫的形势也差不多；日本明治维新发生不久，易于模仿，等等。总而言之，向日本学习是学习西洋文明的捷径。这促使清政府后来在考虑派遣留学生时自然地将重点放到日本。

    与此同时，日本方面也积极派人来华游说。甲午战争后，日本政府把沙俄作为在远东的主要对手，对腐朽虚弱的清政府则多方笼络，其手段之一便是劝说中国派学生去日本留学，既可密切两国感情，又可增加外汇收入，更可在中国扩张势力，培养亲日派。为此，日本参谋本部的官员曾历访张之洞、刘坤一、袁世凯等，力陈派遣留学生学习陆军的重要。贵族院议长近卫笃及前司法大臣等人趁旅游中国之际，对有关人士屡述新教育的必要。1898年，日本驻华公使矢野文雄更向清政府提出愿提供200名留学生经费的建议。日本朝野人士对中国留日学生的教育也非常重视。

    在这种局势下，1896年（光绪二十二年，明治二十九年），经总理各国事务衙门的选拔考试，清政府首次派遣了13名留学生到日本。1898年3月，张之洞著《劝学篇》，大力倡导留学日本之效，还派专人赴日考察教育。此后，中国留日学生的人数逐年增加，1899年增至200名，1902年已有四五百名，1903年约有1000名。特别是八国联军入侵、首都沦陷后，举国上下都以为只有按照日本模式进行改革，才能振兴中华。中国人开始大批涌向日本，其中有公费留学生，也有自费留学生；有青年学子，也有得了功名的；有兄弟姐妹，也有夫妇父子全家东渡的；有十三四岁的少年，也有七八十岁的老翁。

    日本1905年战胜沙俄后，中国朝野再次震惊，日本成了中国人学习的惟一目标。尤其是统治阶级中，上上下下都以师事日本为最紧要的任务、最大的希望所在。另外还有一个重要原因就是中国科举制的废除。新学取代科举制后，学校却供不应求，教师也不足，留日成为新学教育的必须。这样，本来就逐年增加的赴日人员人数直线上升，到1906年已经有8000名左右，还有的学者认为有12 000名左右。

    1906年，清廷颁布了留学规定，学生要具中等以上的学历、而且要通日本语才允许留学。此外，又通电停止派遣速成科留学生。同时，中国的学校教育逐渐普及，还聘请日本教师来华任教，因此一般普通教育不必出国留学。这样，1907年留日学生已开始减少，到1909年时约有5000人，其后更是锐减，随着1911年辛亥革命爆发，中国留日学生几乎全部回国。

    民国初年，政局稍安后，对革命有功人士的子弟，很多又被派到日本留学。1913年7月的“二次革命”失败后，孙中山与一批国民党人相继逃亡日本，从事反袁活动，又有不少青年追随孙中山赴日留学。但1915年日本提出侵华的“二十一条”和1919年五四运动爆发后，不少留日学生先后回国参加反帝爱国斗争，留日学生人数再度下降。