公元7世紀，阿拉伯人穆罕默德（570－632）在阿拉伯半島創立伊斯蘭教，到公元8世紀時，伊斯蘭教徒已遍及歐、亞、非三大洲成為一個世界性的宗教。伊斯蘭教在何時傳入中國還有很大的爭論，但有一個普遍的看法是把公元651年大食派使者到中國朝貢看作是伊斯蘭教正式傳入中國的標誌。在此之前，已經有了大批的大食商人來到中國。
唐朝時期中國與大食的交往路線主要有兩條，一是陸上的「絲綢之路」，另一條是海路，被稱為海上絲綢之路。陸上絲綢之路，是從長安出發經過河西走廊，到達龜茲、碎葉、恆羅斯，然後到達波斯，從波斯再到大食。海上「絲綢之路」是指從廣州出發，沿海岸向南航行，經過太平洋，印度洋，到達波斯灣。由兩河口上溯到巴格達。中國和大食的聯繫主要是通過這條海道。唐朝時期有大批的阿拉伯人到達中國，他們分散在中國沿海和內地的廣大地區，伊斯蘭教也隨著他們的到來而傳到了中國內地和沿海的廣大地區。
他們的風俗和習慣受到了唐朝的尊重，這些人往往住在城市中相聚而居，他們居住的地方被稱為「藩坊」、他們則被稱為是「蕃客」。他們在中國娶妻生子，在中國就產生了「土生蕃客」。他們就是中國最早的穆斯林。隨著阿拉伯帝國的擴張，到了公元8世紀時、阿拉伯世界的阿撥斯王朝在今天中亞的地方已經和中國接壤，兩國之間的關係更為密切，來華商人和使節就更多了。
在這期間，唐朝和大食之間也發生了直接的軍事衝突。天寶十年（751）、安西節度使高仙芝因為石國沒有對唐朝行朝武之禮，率兵討伐，石國向大食求教。於是唐朝和大食之間展開了激戰，兩軍相持多日不分勝負，後來高仙芝的部將葛邏祿反版，唐朝軍隊敗績。唐朝的一些士兵被得虜到了大食、其中有一個叫杜環的唐朝士兵在大食住了十年、回到唐朝之後作了《經行記》一書，記載了他於阿拉伯更直接的觀察和體會，中國人也通過這本書更加了解了伊斯蘭教。
安史之亂時，唐朝曾向大食借兵，據說大食國王派了「三千回兵」幫助唐朝平反，事後這些土兵就在長安居住，唐朝賜給他們宅第．並為其修建清真寺，還準許他們要中國女為妻。唐朝時期，在中國的阿拉伯人之中、從事貿易活動的人最多、在當時的長安，唐朝對外國商人和僑居中國的外國人禮遇有嘉，給予他們多方面的照顧。
在長安的西市和東市、大食商人的商店林立。據《資治通鑑》的記載，唐朝時期居留長安的外商就有四千多戶，其中以阿拉伯人最多。唐朝時期．伊斯蘭教在中國的傳播也主要是在這些人之間。但擁有中國血統而信仰伊斯蘭教的人幾乎沒有，因此伊斯蘭教對漢族的影響是很微弱的，同時這些伊斯蘭教徒只是把自己的這種宗教信仰內部的生活方式世代相傳並沒有向外傳教的野心，因此在唐武宗會昌年間打擊佛教時，沒有被牽連進去。
伊斯蘭教在中國得以保存祆教、摩尼教、景教和伊斷蘭教等外來宗教傳入中國，推動了中西文化的交流，更加豐富了唐朝文化同時也使盛唐的文明傳向西方，在宗教流傳的過程中也帶動了中西貿易的繁榮和文化的交流，當時的絲期之路不僅是經濟通道，還是文化和宗教的通道。這些宗教在傳到中國之後、都經歷了相當程度的中國化過程，他們很快都融合到中國的傳統文化之中，成為中國文化的一部分，中國的文化由於有了外來的新因素的加入而顯得更加博大精深。