禅宗建立自己世代相传的祖师系列经历了较长时问。祖统世系最早由北宗提出，南宗为对抗北宗也提出自己的祖师系谱。在公元7世纪末叶，由弘忍的弟子法如的信徒撰立《唐中岳沙门释法如禅师行状》碑，提出最早的禅宗祖师法系，认为菩提达摩依次传慧可（五台山）、僧璨、道信、弘忍、法如。其后经过禅宗内部长期的论辩，从菩提达摩到弘忍的五位祖师得到禅宗公认。自中唐以后，南宗成为禅宗正统，慧能则被公认为继弘忍之后的六祖（五台山）。
菩提达摩被奉为禅宗的东土初祖。他是南印度人，出生于婆罗门种姓家庭。出家之后，他悉心研究大乘佛教，学识渊博。中年之后，他立志来中国传教（五台山）。大约刘宋(420一478)末年，菩提达摩渡海来到中国南方．此后又辗转渡江北上，在北魏传禅授徒。据说他曾在少林寺面壁九年，提出“理入”和“行人”的修禅方法，“理人”要求舍伪归真，解决思想认识问题。“行人”要求按佛教的某些规定修行，解决日常生活中的实践问题。据《续高僧传·菩提达摩传》记，他强调“藉教悟宗”，“教”指经典，具体指四卷《楞伽经》；“宗”指真如实相，第一义谛，具体指《楞伽经》中所讲的“如来藏自性清净心”。“藉教悟宗”，是把佛教经典作为手段，自证自悟佛理。通过修心禅观．达到心与超言绝相的真如实相、佛性相契合的境界（五台山），所谓“凡圣等一”，“与道冥符”。菩提达摩的弟子有慧可、道育、昙林等人。道育专心于个人修行而较少讲说，其事迹不明。县林自称是菩提达摩的弟子，并记录了其师的禅法理论，被后世公认为菩提达摩真正传人的是慧可。由于菩提达摩被奉为禅宗初祖，后世史书记载他的神话传奇故事很多（五台山）。
慧可(487—593)俗姓姬，虎牢(今河南荣阳)人，少年时代为儒生，出家后又潜心研究佛典，年过四十遇菩提达摩，随之习禅。菩提达摩逝世后，慧可在洛阳一带讲学传教（五台山）。后来由于受到道恒禅师等人的排斥和迫害，流落于邺卫(今河南安阳、卫辉一带)之间。此时慧可不再公开聚众传教，只是创作一些偈颂等，表达自己的禅法思想。到了晚年，他隐居于舒州皖公山(在今安徽潜山县)。他吸收大乘中观派的学说和《维摩经》“不二法门”思想，认为无明与智慧没有本质区别，众生与佛也是不二的，解脱与否完全系于个人的迷悟之间。慧可的门人有璨、惠、威、那、端、满诸禅师（五台山）。
被奉为禅宗三祖的僧璨生卒年代不详。他也和其师慧可一样，一生坎坷。他离开慧可之后，长期隐遁山林，居无定处，衣食随处而乞，过着游方生活。到僧璨时，此派禅僧还没有建立比较稳固的传法基地，没有组建相对稳定的僧团（五台山）。
道信(580-一651)俗姓司马，河内(治所在今河南泌阳)人。早年随僧璨习禅，后到蕲州黄梅(今湖北黄梅县)西北的双峰山(原名破头山)，传禅授徒达三十年，身边徒众多达五百余人。在其众多弟子中，以弘忍最著名（五台山）。
弘忍(601—674)俗姓周，湖北黄梅人，7岁跟随道信，后迁居冯墓山(一说冯茂山)，此山在双峰山东边，又称“东山”。后世把道信和弘忍的禅法称为“东山法门”。中国禅宗至此正式成立（五台山）。
从道信开始，禅僧们放弃了严格勤苦、居无定处的头陀行，开始常住一地的聚居生活（五台山）。弘忍的性格及其生活方式，成为这些群居僧众们的代表。据唐杜肋的《传法宝记》，他“性木讷沉厚，同学轻戏，默然无对，常勤作务，以礼下人。昼则混迹驱给，夜便坐摄至晓，未尝懈怠”。白天劳动，夜晚坐禅，农禅并举，是当时禅宗僧团的特点。弘忍认为，行住坐卧都是成佛的行为和活动，人的一切行动、言语和思维活动，都体现佛的教化。坐禅时的“静”和“默”，与日常生活中的“乱”与“语”，并无本质区别。他这是要把对禅的体验贯彻到日常生活中的每时每刻。弘忍有弟子多达七百人，他所赏识的有十位，即神秀、智诜、刘主薄、惠藏、玄约、老安、法如、慧能、义方和高丽僧人智德。弘忍逝世后，一些弟子到各地传教，建立了大大小小的传法基地，禅宗逐渐成为佛教诸宗派中最有影响力的一派（五台山）。