少林寺面對少室山，背依五乳峰。據(jù)史書記載：少林寺的第一位住持是一個叫跋陀的小乘教和尚，北魏孝文帝元宏太和二十年(496)，他從古印度跋涉來到中國，得到虔信佛教的孝文帝的崇拜。因跋陀喜歡隱居幽靜之處，孝文帝就讓人在少室山下密林深處為他建了一座寺院，取名少林寺。跋陀在寺內收弟子百人，并翻譯了隨身帶來的經典。跋陀圓寂后因無傳燈接宗的規(guī)矩，其弟子也分散各地傳道。數(shù)十年后，少林寺成為大乘教的基地。南朝末年，菩提達摩經過三年海上飄泊來到中國宣傳大乘佛教。他先在廣州光孝寺講道傳教，后被梁武帝接到南京相見。梁武帝以為自己建寺、寫經、度僧造像甚多，積有不少功德，而達摩卻說“無功德”，所作皆是“有為之事”，不是實在的功德。二人話不投機，達摩便以五葉芒葦作舟渡江，入魏，來到嵩山少林寺，創(chuàng)立了禪宗。他所傳的禪宗不重玄理，而主張坐禪“壁觀”，以面壁沉思，屏息眾念來領悟禪理，這種簡便易行的修養(yǎng)方法自然易于推廣，使得后來禪宗成為中國佛教的主流派別，達摩則被中國禪門定為初祖。唐代宗賜謚“圓覺禪師”。由于達摩所傳的大乘教對當時流行于中國廣大地區(qū)的舊禪法是一種革新，因此斗爭激烈。達摩去世后，他的弟子們形成了以慧能為首的南宗和以禪秀為首的北宗。南北宗在教義上無多大區(qū)別，但在修行上北宗倡導“漸悟”，而南宗倡導“頓悟”，主張“放下屠刀，立地成佛”。經過十幾年的爭執(zhí)，至唐德宗時，南宗終于取代了北宗的勢力。此后少林寺一直成為南宗一派的傳法道場。后南宗內部又分為曹洞、臨濟、云門、法眼和溈仰五宗，其中以曹、臨二宗影響最大。元初后，少林寺明確以曹洞宗為正宗，一直延續(xù)至今。

　　少林寺曾一次被廢，二次被焚。被廢發(fā)生在北周武帝時，當時國內信佛人數(shù)占居民一半，生產受到影響，損害了皇室利益。于是建德三年(574)周武帝下令禁佛、道二教。少林寺被廢棄，僧眾紛紛遣散回鄉(xiāng)。七世紀初，少林和尚們因在李世民征戰(zhàn)中助戰(zhàn)有功，受到唐王大力支持，又重建少林寺。至宋時，寺已聚僧二千多人，樓臺殿閣五千余間，占地36公頃，藏經近萬卷，號稱“天下第一名剎”。清雍正年間(1723—1735)皇帝怕武僧造反，放火圍攻寺院，將少林寺置于火海中。乾隆以后又加以重修。1928年，軍閥石友三縱火又將名剎付之一炬，這次大火損失嚴重，火勢延續(xù)五個晝夜，七進院落只剩下二、三間，無數(shù)經典、法器等貴重文物化為焦土。解放后又多次整修，逐漸恢復往昔模樣。現(xiàn)寺共七進，總面積約三萬多平方米，規(guī)模宏大，并有常住院、初祖庵、二祖庵、三祖庵、塔林、甘露臺、祠堂及南園等附屬建筑。

　　山門為一殿，面闊三間，雕脊彩瓦，吻獸生動，系清雍正十三年(1735)所建。門上“少林寺”橫匾原懸于天王殿，兵火后移此，為清圣祖玄燁親書。殿內有彌勒佛坐像和韋馱護法神像各一尊。山門后甬道兩旁立有唐、宋、元、明、清各代碑銘三十余座，為少林寺有名的“碑林”。其中有王知敬寫的大唐天臺御制詩書碑，元代日僧邵元撰文的息庵禪師碑，明代的釋迦雙跡靈相圖，扶桑園沙門德始書寫的淳拙和尚碑以及書法家米芾“第一山”刻石，明代董其昌書寫的天言道公碑，清乾隆的御書碑，吳道子的觀音畫像碑等。其中以北宋蘇軾的《觀音贊碑》和元代趙孟頫的《裕公碑》為最佳。

　　二進院為天王殿。該殿與四進的藏經閣和三進的大雄寶殿均被毀，現(xiàn)已重修好，內有四大天王像。三進大雄寶殿于1986年重建。殿內柱基均為雕刻高1米多的石獅。藏經閣遺址前后，除鐘樓遺址上放重5.5噸的金代大鐵鐘外，神座上放明代弘治元年(1488)鑄的1.75米高的地藏王鐵像和石碑等文物，東配殿為緊那羅王殿和東客堂，西配殿是六祖堂和西客堂。

　　方丈院在第五進院落，這是兵火后山門內幸存的第一所建筑。中為方丈室，是歷代住持和尚居住的地方。乾隆十五年(1750)高宗弘歷曾留宿于此，因此一度易名“龍庭”。站在方丈室門口南望少室山主峰，山坡上橫臥一塊巨石，約10多平方米，每當夏季雨過天晴，陽光直射石上放射出奇異光彩，遙望如白雪一片，晶瑩奪目，故稱“少室晴雪”，為中岳八景之一。

　　出方丈室拾級而上，高臺上有一座琉璃佛殿，稱“達摩殿”，又叫“立雪亭”，相傳為禪宗二祖慧可立雪斷臂處。慧可，少為儒生，博覽群書，通達老莊易學，后出家，精研三藏內典。在40歲左右遇達摩于嵩山洛陽一帶游化，即拜他為師。達摩閉門面壁，置之不理，慧可便在門外等候，時數(shù)九寒天，大雪過膝，慧可站立雪中不動，第二天達摩仍不許入室，于是慧可砍下左臂獻于達摩前，表示求道至誠，達摩才把木棉架裟和缽盂傳他，作為傳法的憑證。“衣缽傳真”的典故便出于此。亭內佛龕中供奉達摩銅像。亭正中懸掛乾隆御書“雪印心珠”橫匾。亭外東墻鑲嵌金代�？�的蘇軾觀音像和觀音贊、金代刻制的二祖慧可畫像、明代左思明的“煉魔臺”三字刻石等。

　　過了立雪亭便是毗盧閣，又稱千佛殿，系明末重建。佛龕中供明代鑄造的毗盧佛銅像。殿東、西、北墻上有大型彩色壁畫——五百羅漢。高7米，面積330多平方米，其規(guī)模之大為全國同類壁畫中所罕見。五百羅漢形貌奇特，分為35組，各表達一個故事，據(jù)說色彩數(shù)年一更。整個三層畫面采用重彩平涂法，朱黑和諧，勾勒粗勁有力。線條簡煉，筆法流暢。東壁是明代雕刻的阿彌陀佛玉石像。殿內地面上有48個排列成深20厘米的陷坑，據(jù)說是少林武僧練拳習武的腳坑遺址。

　　千佛殿的西廂為地藏殿，東廂為白衣殿。白衣殿內供奉白衣觀音銅像一尊。殿內三面墻上繪有彩色壁畫，均系晚清所制。北面和南面繪的是眾僧徒手和持械練拳習武的動作，所以千佛殿亦稱拳譜殿或錘譜殿，北面山墻上繪湛舉和尚在殿前指導僧徒拳賽的情景。后壁北端二間繪“十三和尚救駕唐王”與“活捉鄭將王仁則”的傳統(tǒng)故事。神罩兩側繪制的是降龍伏虎圖，東北和東南壁角是文殊騎青獅和普賢騎白象等。

　　出寺向西北行一公里，便是初祖庵。這座寺院主要是為了紀念禪宗初祖達摩上山修行而建。庵內有山門、大殿、千佛洞，現(xiàn)存主要建筑為一殿、兩亭和千佛閣等。大殿建于北宋宣和七年(1125)，木構梁架，斗栱都是典型的宋代風格，是河南現(xiàn)存木構建筑中之杰作。殿內梁柱用16欞石柱和彎曲圓木疊成，柱上雕刻的武士、游龍、舞鳳、飛天、鳳戲牡丹、群鶴鬧蓮等圖，工藝精細，神態(tài)生動，體現(xiàn)了宋代中葉繪畫和雕刻技藝的水平。大殿東南有古柏一株，相傳為禪宗六祖慧能所植，俗稱馬柏。殿后兩亭有宋代書法家的碑石四十余品。初祖庵不遠的五乳峰中有一“達摩洞”。洞前立有一片明萬歷三十二年(1604)雕刻的雙柱單孔石坊，洞內有“面壁石”一塊，據(jù)說是由于達摩在此靜坐面壁九年其影入石所致。佛徒們視此為至寶，可惜已毀于兵火。

　　二祖庵位于缽盂峰上，庵內有大殿、碑碣數(shù)道，庵外有古柏及唐、元、明代磚塔三座，庵南有一塊巨石叫“石削石芙蓉”，傳為慧可斷臂養(yǎng)傷處，名“養(yǎng)臂臺”。庵前有四眼泉水，雖相隔咫尺，但水味各異。據(jù)說慧可在此養(yǎng)傷時吃水困難，達摩知道后便用錫杖點幾下，所點之處便涌出泉水，故稱“卓錫泉”。南面還有覓心臺，為慧可行經處。

　　寺西300米處，有一片宏大的古塔群，這是安葬歷代高僧、住持、大和尚的墳墓，占地約1.4萬平方米，共有唐、宋、金、元、明、清歷代250多座磚塔和石塔，為我國最大的塔墓群。塔從一級到七級，為四、六、八角，也有柱體或錐體，空心實心均有，大都雕刻塔銘題記。塔林是我國研究磚石建筑的重要實物資料。