7世紀以前，日本學習中國文化主要靠中國移民的傳播。至推古天皇在位(593——629)、聖德太子攝政期間，日本開始直接向中國派遣「遣隋使」、「遣唐使」以及大批留學生和留學僧，主動學習中國文化，成為最早派人到中國留學的國家，隋朝也是中國開始大批接收外國留學生的時期。
隨使節一同來華
日本最重要的「遣隋使」是聖德太子於隋大業三年(607年)派出的。他派小野妹子攜帶日本天皇的國書到達隋朝東都洛陽，謀求與中國建立外交關係，藉以提高日本的國際地位。這是當時日本在外交上一項重大的措施。從開皇二十年(600年)至大業十年(614年)，日本派「遣隋使」達5次之多。公元608年，開創了隨團派留學生來中國學習的先例。這不僅僅是基於政治上的考慮。聖德太子漢學功底深厚，很重視發展同隋朝的關係，希望通過這種措施，積極地從中國導入各種先進的文化和制度，以建立完善的國家體制，因而所派遣的遣隋使團中有許多留學生和留學僧。
唐朝的時候，中國同日本的友好往來更是盛況空前。從貞觀年間開始，日本先後派遣了13次「遣唐使」，還有6次迎送唐朝的使者。每次所派遣唐使團規模都很大，最多的時候達到了600人。留學生和留學僧都是跟隨使團到達中國，使團回日本時，留學生(僧)們則仍留下來學習中國文化。
日本留學生一律被安排在國子監學習。唐朝國子監有六學：國子學、太學、四門學、律學、書學和算學，各學招生對象不同。唐玄宗命國子監的四門助教趙玄默在鴻臚寺教授這些留學生們的功課。日本留學生們在中國學習幾年甚至幾十年，再回到日本傳播中國文化，促進日本政治、經濟、文化各方面的發展。他們中間最有名的是從奈良來到中國的阿倍仲麻呂和吉備真備。
晁衡：留唐任職，一住54年
阿倍仲麻呂(698——770)是中日友好關係史上的重要人物，他的中國名字叫晁衡。唐玄宗開元五年(717年)，晁衡因漢文修養良好而被選為遣唐留學生，當時他還不滿20歲。入唐以後，他的學識和品行，很快受到唐朝皇帝和學界的讚賞，先後任校書、左補闕、秘書監、左散騎常侍和鎮南都護等職。秘書監相當於國家圖書館館長，左散騎常侍是從三品，可見他很受唐朝的重用。
晁衡和唐朝著名詩人王維、李白、儲光羲等都有過親密交往。儲光羲對他十分讚賞，曾寫詩《洛中貽朝校書衡》相贈。晁衡曾經送給李白一件日本裘，李白很受感動。
天寶十三年(753年)，晁衡想隨「遣唐使」回國探親，唐玄宗許之，並且命他為回訪使者。他和遣唐大使藤原清河等，共乘一舟回國，途中遭遇風暴，李白誤聞晁衡在歸日本時翻船遇難，非常悲痛，寫下了著名的《哭晁卿衡》一首，情意深厚：「日本晁卿辭帝都，徵帆一片繞蓬壺，明月不歸沉碧海，白雲愁色滿蒼梧。」成為中日友誼史上傳誦千年的名作。
晁衡後來東渡失敗，輾轉漂泊後又回到長安，繼續在唐朝任職，直至大曆五年(770年)以73歲高齡在長安逝世。晁衡在中國生活、工作長達54年之久，為中日友好事業做出了傑出貢獻。日本人民為其在東京的護國寺建了雕像和紀念堂。
吉備真備：用漢字偏旁創片假名
另一個著名的日本留學生是吉備真備，原名下道真備，開元五年(717年)隨「遣唐使」來華。他在長安就學於四門助教趙玄默，深通五經三史、歷算、刑律、漏刻、軍制、陣法、韻學、書道等諸藝。他在唐朝留學17年，開元二十二年(734年)十一月攜帶中國典籍1700多部歸國。與吉備真備同時回國的留學僧玄防，受到日本聖武天皇的重視，吉備真備也因此受到器重，官至右大臣。
吉備真備在華期間，精研經史，博學多聞，成為飽學之士，回國後被天皇拜為大學助教。當時日本的大學設有明經、文章、明法、算學、音韻、書法六科，學生有四五百人。吉備真備為六科的學生講授學自中國的各種新知識，教讀《史記》、《漢書》、《後漢書》。高野天皇也跟他學習《禮記》、《漢書》。
對於日本文化傳承，吉備真備最重要的歷史功績之一是根據部分漢字偏旁部首創製了日語片假名。這些漢字共50個，被稱為「母字」。古代日本沒有本民族的文字，利用漢字作音符來書寫日本語言，著名的《萬葉集》就是用這種方法寫成的，因而稱為「萬葉假名」。用漢字作音符，書寫很不方便。吉備真備利用漢字偏旁創造了日本表音文字——————片假名，從此，日本有了自己的文字。後來，留學僧空海(弘法)又利用漢字行書體創造日本行書假名——————平假名。
回國受重用，影響日本文化
入唐留學生大多為日本統治階級中的中層官吏子弟，和朝廷關係密切，回國都受到重用。如膳大丘在唐長安國子監學經史，歸國後被任命為日本大學寮助教。他向天皇奏請按照中國之例，以孔子為文宣王，獲準。這是日本政府尊孔之始，對日本奈良時代儒學的發展起到推動作用。出身法律世家的大和長岡，入唐後潛心學習唐律，回國後曾與吉備真備共同刪定律令二十四條。營原娓成入唐學醫，造詣較深，回國後被任命為針博士，對日本的醫學發展極有貢獻。
許多日本留學生經歷了隋朝的滅亡和唐朝的繁榮，看到了唐朝的先進位度對周邊的影響。他們回國後就對日本的部民制提出了改革要求。公元645年，日本孝德天皇任用從唐朝歸來的留學生高向玄理做國博士，仿照中國唐朝的政治制度，在日本實行了大化革新。
入唐留學的僧人和留學生一樣，回國後在政治、文化和佛教等方面，起了巨大作用。留學僧除本身的天賦外，與朝廷達官之間關係密切，也是基本條件之一。最早回國的僧人玄防就是與改革派發生關係得到重用。大多數在唐留學回國的僧人，都在宣傳佛教和傳播唐文化方面做出了貢獻。公元653年入唐留學的道照，在中國學習法相宗，回國後在奈良右京建立禪院，在日本創立法相宗。留學僧智藏在唐朝學習三論宗，回日本後即創立三論宗。公元743年左右，佛教各宗派如華嚴宗、法相宗、天台宗、禪宗都傳入了日本，與佛教有關的建築、雕刻、繪畫工藝都在日本有了新的發展。
留學生和留學僧作為中日文化傳播的載體，對中日文化的交流起了很大的促進作用。