在北魏孝昌三年，即公元527年，印度高僧达摩踏入嵩山少林寺，开启了禅宗的流传。由于长时间面壁，达摩时常感到筋骨困倦，加之深山的孤独与野兽的侵扰，他渴望一种能驱倦防兽、健身护寺的方法。于是，达摩借鉴我国古代的劳动人民的智慧，根据身体的各种动作，创编了“活身法”，这是一套健身活动。
在闲暇之余，达摩还练习了几手用链、棍、杖、剑等防盗护身的动作，后人把这些动作称为“达摩链”、“达摩杖”、“达摩剑”。他进一步观察鸟兽、虫鱼飞翔腾跃的姿态，从中汲取灵感，发展并完善了“活身法”，最终创造了一套动静结合的“罗汉手”。这套健身术经过历代的演练、综合、充实和提高，逐渐演化成了一套拳术，被武术界统称为“少林拳”。
随着时间的推移，少林武功逐渐精湛，开始向技击方面发展。少林派开始了有组织、严格的僧兵训练。师僧们每日晨光曦微时便起床习武，冬练三九，夏练三伏，四季不断。到了隋唐之际，少林武功已经享有盛名。
到了金末元初，少林拳术大师白玉峰、李叟等人对少林拳法进行了深入研究，并致力于拳法的整理和传授。他们将原本的“罗汉十八手”发展为七十二手，后来更是发展到一百七十三手。这一时期，高僧福居邀请了十八家著名武术家到少林寺进行两年的武术交流，共同研讨和传授拳法。抗倭名将也曾到少林寺传授棍术，这使得少林寺的武功博采百家之长，更加精湛。
明代以来，少林寺的演武之风更是盛行。来自四面八方的游客，来到少林寺观武，将其作为游历古寺的一大高潮或结束。明代的傅梅在诗中写道：“二室赞元一径通，少林寺在翠微中。地从梁魏标名胜，僧自隋唐好武名。”表达了少林寺的武术盛况和历史的厚重。这里不仅是佛教的圣地，更是武术的摇篮，孕育出无数武术英才，传承并发扬了中华民族的武术精神。