众所周知，佛教是一个宣扬慈悲倡导和平的宗教，世界各国的佛教僧侣通常是不论兵习武的，可嵩山少林寺为何偏偏与武结缘？
　　这有两方面的原因：其一，嵩山少林寺地处深山野林之中，猛兽出没。恶劣的自然环境，客观上要求少林僧众须有强健的体魄以生存自卫；其二，少林寺所在地登封位于开封和洛阳之间，既是通衢，又有嵩山险隘，乱世乃兵家必争之地。处此环境之中，无论是护家抑或卫身，武艺都必不可少，因而当地习武成风，少林和尚也随俗练武。
　　隋代末年，天下大乱，当时的少林寺寺主志操审度天下大势，预见到唐朝将一统天下，便与众僧商议拿下王世充军队据守的州城，投奔秦王李世民。于是，一群少林僧人潜入城内，说服了守城的军官赵孝宰；另一群少林僧人埋伏城外，伺机而动。武德四年（621年）四月二十七日，众僧里应外合，年轻而有武术功夫的昙宗等人擒拿了守将王仁则（王世充的侄子），赵孝宰等打开城门，唐军与少林僧人一拥而入，夺取了州城，归顺唐朝。这就是后世演义的“十三棍僧救唐王”的故事，也是1982年轰动一时的电影《少林寺》的历史框架。
　　三天后，秦王李世民派上柱国李安远来到少林寺宣慰，接见了立功的十三位僧人。李世民还在“秦王教书”（《秦王李世民告柏谷坞少林寺上座书》）中赞扬少林寺“法师等并能深悟机变，早识妙因，克建嘉酞，同归福地。擒彼凶孽，廓兹净土”。日后，此教书被刻成石碑，立于少林寺内，至今尚存。
　　由于为大唐统一事业立下了战功，少林寺论兵习武就得到统治阶级的鼓励和利用，此后，少林寺僧练武成风，除朔、望之日念经礼佛外，其余时间均练武。当时“少林面积五顷四，外分四院都练拳”。
　　北宋初年，少林寺住持福居邀集全国18家武林高手大会少林寺切磋武艺，事后又加以总结，博采众长，悉心钻研，历时三载，终汇集成少林拳谱，把少林武术理论化。金元之际，寺僧觉远上人又邀请民间武术名家白玉峰同入少林寺切磋武艺，把少林拳由十八手发展成七十二手，进而从七十二手演化为龙、虎、豹、蛇、鹤五拳，又将少林武术推进了一大步。
　　明初，关于少林寺的习武记载逐渐增多，到了明后期，已经出现了“今之武艺，天下莫不让少林”的美誉。其中颇值得一提的是，明代中期的名将俞大猷精通棍术，著有《剑经》（剑做棍解）。嘉靖时他曾到嵩山少林寺，认为少林棍法“传久而讹，真诀皆失”。后应住持小山之请，教授棍法。在俞氏悉心教导下，少林武僧棍法出神入化，使少林棍法成为少林武术的标志性套路。
　　祸兮福所倚。与明廷的亲密关系固然曾使少林寺盛极一时，但明亡清兴之后则成为少林寺继续发展的巨大包袱。入主中原的新统治者对少林寺昔日竭诚效力明廷之事本来就已经心存芥蒂，加上旨在“反清复明”的地下组织天地会与遍布福建的南少林传说关系密切——天地会内部流传的诗句就有“武艺出在少林中，洪门事务我精通。洪拳能破西鞑子，万载名标第一名”。清廷对少林寺的政策遂从明代的扶植支持改为限制打压，嵩山少林寺便从兴盛的顶点跌落，无复往日辉煌。
　　在少林寺衰弱的同时，僧兵被清廷解散之后流落民间，反而扩大了少林武术的传播，使得少林武术地位更加崇高，与少林寺地位的跌落形成鲜明反差。各地民间武术，不论是否与少林武术有所渊源，皆纷纷树起少林旗帜，标榜源自少林，形成了“天下武功出少林”的奇异景象。