滿清入主中原，各地反清暗潮洶湧。明末將領鄭成功，以台灣作根據地，策劃反清抗暴活動，特派何廣漢等以教師的身份作掩護，潛伏於廣州，密謀起事。
何廣漢有學生劉裕德（劉家輝飾），為海味店少東，極富正義感，目睹清軍瘋狂殘殺漢人，十分憤怒；加上平日又受了何廣漢所灌輸的反清救國思想之影響，因而年輕的心靈裡，就萌生了救國救民的遠大抱負。
何廣漢為了使鄭成功的情報及指示得以混過關口，乃安排將情報藏於劉家海味店的魚簍之中，然後由劉裕德去取，劉每次都圓滿完成任務。
然而，沒多久，有位反清首領，被清軍搜出了一支鄭成功頒下的令箭，清廷「廣州將軍」天達（羅烈飾），馬上下令搜捕反清志士。結果，何廣漢的身份終於暴露，與一批學生同遭殺害。劉裕德雖幸得逃脫，但其父亦慘遭毒手。劉裕德在悲憤之中，念及天下武功總匯在少林寺，乃負傷不遠萬里前去投奔，希望能練成武功對抗滿清韃子。
劉裕德遍歷艱險，上到少林寺時已幾乎奄奄一息，昏迷十日方始轉醒。方丈以此認為其與佛有緣，乃將他收留，為他剃度取法名「三德」。惟此後一年，劉均在寺中掃地。直至一日，他對一位高僧道及上少林寺乃為了習武時，該高僧才告訴他少林寺武學共有三十五門，每一門就設有一個房。劉遂從第三十五房學起。
少林寺三十五房中，除了其中一個頂房是研究禪理、修心養性外，其他各房均與各種武功直接關係。那些房包括有臂力房、腕力房、定力房、腰力房、目力房、頭力房、拳房、棍房、輕功房、刀房…等等。每一房都是從基本功練起，再一步步提高，然後通過考試，合格了才可過關轉房。練習的方式十分奇特，也非常艱苦。
劉裕德練武功非常認真落力，僅以兩年零一個月的時間，就過了三十五房中紮基礎功夫的十房，開少林寺前所末有之成就，深獲方丈讚許。後來，劉在方丈的特准下，在各房中自擇拳、腳、掌、刀、棍、劍、槍各項武藝逐一勤習，武技猛進。方丈嘉其績，又准許他除了頂房外，可在其餘三十四房中任擇一房作為主持。但劉卻表示要主持第三十六房，蓋他有意在所學的基礎上，另創設第三十六房也。劉並向方丈指出：少林武技固為天下總匯，但若淹沒在寺中，自是太可惜，當讓它在世間廣為流傳，則退可以自保，進可以抗敵。並請求方丈准許他下山，以便帶領可造就的青年前來，在第三十六房中習技。方丈乃暗示他可以下山化緣的方式進行。
劉裕德遂下山化緣，此行不但得機殺死了殘民以逞的天達的手下成固和唐三要，而且也收錄了洪熙官、童千斤、陸阿采、舂米六這些富正義感的青年，帶他們上少林寺練武。就在他們前往途中，清廷已下令天達務必緝拿劉裕德他們歸案，天達遂率眾清兵已追來。
劉裕德與洪熙官他們，在途中伏擊天達所率領的清軍，一場惡戰，天達卒死於劉裕德之手。
劉裕德帶洪熙官、童千斤、陸阿采、舂米六等上到少林寺，少林寺第三十六房即告創設。在劉裕德的指導下，洪熙官他們發憤練武，終於成了威震江湖的少林人物。他們後來將少林武功發揚光大，並在反清抗暴中，創下輝煌事蹟，喧騰眾口，流芳千秋。
