清真古寺原是由郁家花園改建而成，俗稱北大寺，1742年又在阿訇李中和的主持下興建成現(xiàn)在規(guī)模，當(dāng)時(shí)主要建筑有講堂、西大殿、望月樓，配房等，是回族同胞做禮拜的場所，其中望月樓毀于文革期間。

    清真古寺是臺(tái)兒莊大戰(zhàn)后保留最完整的一處遺址。當(dāng)時(shí)為186團(tuán)團(tuán)部的指揮所，是中日雙方爭奪的焦點(diǎn)，當(dāng)時(shí)戰(zhàn)斗場景相當(dāng)激烈，一個(gè)拉據(jù)戰(zhàn)就打了七天七夜，門墻上面彈跡痕痕，彈孔累累，至今依然歷歷在目、清晰可見，它是當(dāng)時(shí)日軍侵華的一個(gè)鐵證。1988年中國革命歷史博物館取走清真寺外墻一塊彈孔累累的磚墻面，陳列在博物館內(nèi)，以教育后人勿望國恥。

    寺院布局為南北走向，院內(nèi)蒼松翠柏傲然挺立，原來的四棵松柏經(jīng)過戰(zhàn)火的洗劫只留下兩棵，其中一棵還處于半枯半榮狀態(tài)，樹軀上彈孔累累，彈頭歷歷可見。兩棵松柏目睹當(dāng)年的戰(zhàn)斗場景，經(jīng)過炮火的洗禮仍頑強(qiáng)活著，他們向世人顯示：中華民族是威武不屈的，任何外來侵略者終會(huì)失敗。

    改革開放后，清真寺重新修葺一番，除保留原有的建筑外，又建了西大殿，復(fù)建了望月樓。這里既是一個(gè)宗教事務(wù)場所，又是臺(tái)兒莊大戰(zhàn)遺址的一個(gè)重要旅游景點(diǎn)，來此游覽參觀者絡(luò)繹不絕。游客或憑吊或沉思，有詩為志：“垂老重游舊戰(zhàn)場，彈痕布滿寺門墻。當(dāng)年炮火紛飛處，今天變成“魚米鄉(xiāng)”。

　　清真寺為二進(jìn)院，占地面積2800平方米（原有面積5000平方米），有伊斯蘭教特有的建筑，如大殿（禮拜殿）、講堂（講經(jīng)堂）、水房（沐浴室）、省心樓等，布局緊湊嚴(yán)整。寺院開有東西兩門，1958年擴(kuò)建解放路前，東門為正門，面臨狹窄的東米市牛肉巷。擴(kuò)建解放路后，西門改為正門，面臨寬闊的解放路大街。 省心樓，是教民們懺悔的地方，面對(duì)東門入口，峭立于庭院中央。上下兩層，重檐歇山頂，四周檐角雙層飛翹，底層外圍紅漆木柱內(nèi)傾支撐，玲瓏俊俏。內(nèi)有明代著名學(xué)者方孝孺的題匾：“聲吟不及清”，字為草體，龍飛鳳舞，堪為書法珍品。省心樓的西北、西南兩側(cè)，六角碑亭對(duì)峙。北亭石碑立于清康熙三十三年（1694），碑面刻文為康熙皇帝的詔諭，“文革”期間大都被鑿。

　　寺內(nèi)大殿為磚木混合結(jié)構(gòu)，檐柱砌入墻內(nèi)，殿內(nèi)為阿拉伯式裝飾，圓柱挖槽迭楞，彩繪施瀝粉貼金，富麗堂皇。周圍木壁上刻有阿拉伯文《可蘭經(jīng)》第二十九、三十本中經(jīng)文數(shù)段，雕刻精細(xì)工整。整個(gè)大殿，寬大疏朗，布局嚴(yán)謹(jǐn)。

　　進(jìn)入院內(nèi)，裝點(diǎn)頗覺雅致，布局合理、緊湊。院中央有明代建筑省心楓樓，重檐歇山頂，檐桷輝飛，彩色熠熠。省心樓兩側(cè)，左右碑亭對(duì)峙，亭閣風(fēng)雅麗，氣度不凡。亭內(nèi)碑刻為黃庭草書，元趙孟俯和清初傅青主觀后題銘，字體勁秀，筆力挺拔。還有明方孝孺等人榜題和清劉石安書“心修忠孝, 志義齊仁”八個(gè)大字，書法皆佳。

　　南亭石碑立于清同治七年（1868），正面鐫刻明代洪武皇帝對(duì)回教的百字御贊文。背面刻有北宋黃庭堅(jiān)、元代趙子昂、清代傅山、劉石庵等書法家的題詞題名。 庭院的西面是講經(jīng)堂和防火墻。講經(jīng)堂是宣講《古蘭經(jīng)》和傳教的場所。防火墻將古寺分隔為兩院，距大殿約8米，與大殿等寬，與殿前檐等高，墻厚1米，中開鐵門。如果前院失火，只要把鐵門關(guān)閉，即可使大殿免遭火災(zāi)。這種防火措施，在我國古建筑中尚不多見。 穿過防火墻，即是原第二進(jìn)院。迎面是古樸恢宏的禮拜大殿，為清真寺的主體建筑，是教徒們做禮拜的場所。

　　大殿座西向東，殿寬五間，進(jìn)深六間，高6．22米，單體面積460平方米，高大寬敞，可容納500余人作禮拜。殿頂由硬山和卷棚頂相連組成，施布筒瓦，前有廊，飾垂蓮柱吊楣，殿門上懸掛“開天古教”匾額。殿內(nèi)建筑裝飾融合了阿拉伯建筑風(fēng)格和中國傳統(tǒng)工藝手法，中西合壁，格調(diào)得宜。檐柱砌在墻內(nèi)，四壁由護(hù)墻板封閉，“內(nèi)不見磚，外不見木”。

　　殿內(nèi)突出的特征是無畫像，無塑像，不燒香，不擺供，與佛寺、道觀截然不同。由于《古蘭經(jīng)》禁用動(dòng)物的形象做裝飾材料，因而殿內(nèi)細(xì)部裝飾紋樣都是由阿拉伯文字和幾何線紋組成，富有濃厚的阿拉伯風(fēng)格。西墻右都有13階木梯，稱宣講樓。大殿地面滿鋪綠色地毯，禁止穿鞋和攜帶物品進(jìn)殿。整個(gè)大殿顯得富麗堂皇，莊嚴(yán)肅穆。 伊斯蘭教的禮儀形式和宗教活動(dòng)多種多樣，其中主要的有一周一次的穆斯林聚禮，每星期五午后舉行，稱“主麻日”。

　　另外，每年還有3個(gè)主要節(jié)日，即開齋節(jié)、古爾邦節(jié)和圣紀(jì)節(jié)。在這些節(jié)日里，穆斯林游客可沐浴盛裝，舉行會(huì)禮，誦經(jīng)贊圣，互相祝賀，是接受教義、增進(jìn)友誼和團(tuán)結(jié)的盛會(huì)。