伊斯蘭教何時傳入南京，目前尚無直接史料說明，然而南京附近的城市揚州和鎮(zhèn)江，在唐宋年間就有相當(dāng)數(shù)量的穆斯林居民則是史料有據(jù)。如《舊唐書·田神功傳》載：“乾元三年（760）田神功掠揚州，大食、波斯胡賈死者數(shù)千人。”大食就是阿拉伯，波斯就是伊朗，他們是信奉伊斯蘭教的。鎮(zhèn)江（當(dāng)時叫潤州）的方志也有類似的記載。元朝人編纂的方志《至正金陵新志》載，至元二十七年（1290）建康路在城錄事司（金陵城內(nèi)）色目人戶149戶，2919人。當(dāng)時的色目人有很大一部分是信奉伊斯蘭教的色目回回，這可算是南京有伊斯蘭教徒的旁證史料了。至于元代建康路的色目官員姓名，有許多可以確鑿無疑認(rèn)定是回回，如馬哈麻、阿老瓦丁、阿里等。

　　無論是古代，還是近代，南京都是伊斯蘭教發(fā)展的一個中心地區(qū)。它地處陸上絲綢之路和海上了香之路的交匯地點，有著南來北往的穆斯林居民。經(jīng)過元朝的軍墾編民，許多從中亞來到中國的色目回回兵丁都在中國廣袤的北方農(nóng)村落戶了，同土地結(jié)合，扎實地生存下來。在南方稍有不同，許多大食、波斯、中亞穆斯林是來中國經(jīng)商的，活動在城市集鎮(zhèn)，日子長了，也定居下來。南北穆斯林同當(dāng)?shù)厝私Y(jié)合，伊斯蘭教是其中一條紐帶，形成了一個新生的民族——回族。南京在17世紀(jì)明末清初成為伊斯蘭教啟蒙復(fù)興運動的中心。許多既熟悉儒家傳統(tǒng)文化，又精通伊斯蘭教經(jīng)典的所謂“回儒”都是南京人，如王岱輿、伍遵契、劉智、金天柱。這場歸化鼎新、保教圖存的運動對明代以后中國伊斯蘭教發(fā)展至關(guān)重大。甚至可以說中國內(nèi)地伊斯蘭教就是按照這種思想脈絡(luò)保存和發(fā)展起來的。到了近代，王、伍、劉等人的著作在西北地區(qū)引起了重大反響。清朝光緒年間甘肅臨潭人馬啟西根據(jù)劉智等人的思想和著作，宣傳中國文化與伊斯蘭教相結(jié)合的道理，創(chuàng)建了一個新的宗教團(tuán)體——西道堂派，又稱漢學(xué)派。它在近代與格迪木（老派）、伊赫瓦尼（新派）合稱為中國伊斯蘭教的三大教派。可見南京伊斯蘭教的影響力量。

　　鴉片戰(zhàn)爭期間，林則徐任湖廣總督時，湖北巡撫伍長華就是一位南京穆斯林，他曾和林則徐一道在湖北禁煙，共同銷毀鴉片，事在虎門銷煙前半年，后來抱病，死在南京。太平天國期間伊斯蘭教曾經(jīng)遭到打擊，許多南京穆斯林逃亡和流落到西北、西南地區(qū)以及滬杭一帶，南京地區(qū)穆斯林人口大幅度銳減，但也對那些地方的穆斯林文化起了潛移默化作用。從清末到抗戰(zhàn)前，南京清真寺從36座減少到26座。辛亥革命前夕，穆斯林由于受民主科學(xué)思想熏陶，亦曾組織東亞清真教育總會，會長就是南京人金印鼎。該會主張“為全中國回教謀教育之普及”，這是近代中國伊斯蘭教歷史上第一個提倡公益的組織。后來成為著名阿訇的哈德成、劉彬如都曾就學(xué)于此。少數(shù)南京富裕的穆斯林商家還在新思潮影響下，創(chuàng)辦義學(xué)和貧民診所，刊印伊斯蘭教譯著，做了不少樂善好施的事業(yè)。如著名的金陵蔣氏回族世家。

　　民國初年，南京信奉伊斯蘭教的回族人口約有3－4萬人，他們大都住在城西南紅土橋、七家灣、評事街一帶，多數(shù)從事菜館、炒貨、茶食、牛羊業(yè)，亦有少數(shù)紳商從事面粉、輪船、錢莊行業(yè)。還有一位金陵“回教探花”的后裔伍仲文與魯迅先生共讀礦路學(xué)堂，畢業(yè)后共同赴日留學(xué)，歸國后又與魯迅共在北京教育部任職。抗戰(zhàn)興起、南京失陷，日寇屠城。南京穆斯林組織“清真掩埋隊”，出生入死，為教為國。此外在伊斯蘭教組織上，抗戰(zhàn)期間曾在重慶成立中國回教救國協(xié)會，抗戰(zhàn)勝利后遷至南京太平南路清真寺內(nèi)，并改名中國回教協(xié)會，第一任理事長白崇禧，這是國民政府時期全國最高的伊斯蘭教組織。另外，在南京的伊斯蘭教社團(tuán)組織不下六、七種之多，如中國回教青年學(xué)會、中國回民教育促進(jìn)會、中國回民青年會等。這些團(tuán)體存在時間短，影響范圍也不廣。

　　全國解放以后，著名四大阿訇之一達(dá)浦生（南京六合縣人）奉命調(diào)往北京，參加中國伊斯蘭教協(xié)會的籌備工作。 1952年他還作為新中國的代表赴奧地利出席維也納世界和平大會，擔(dān)任第一屆朝覲團(tuán)團(tuán)長，又被選為第一屆全國人民代表，這是南京市穆斯林的光榮。1959年南京市伊斯蘭教協(xié)會成立后，積極開展對外友好交往活動，從事宗教學(xué)術(shù)研究，僅1980年至1984年就接待14個國家穆斯林外賓55批301人次，市伊協(xié)主任馬國賢阿訇還參加了中國伊協(xié)朝覲團(tuán)，市伊協(xié)文史委員會編纂文史資料40篇20余萬字，收集了40萬字檔案史料，參加了《中國回族大辭典》的編纂工作。如今，南京市伊斯蘭教工作在黨和政府的宗教政策的光輝照耀下，正一步一個腳印走向輝煌。