达摩祖师辞别祖塔、跨越重重大洋，历经三个寒暑，抵达中国。于是有了历史上非常著名的与武帝论功德的对话。

梁武帝问：“朕即位以来，造寺、写经、度僧，不可胜计，有何功德？”

祖师答言：“并无功德。”

梁武帝又问：“何以无功德？”

祖师云：“这只是人天小果，有漏之因，就像影子跟随形体，虽然有、但非真实。”

梁武帝便问：“如何是真功德？”

祖师回答：“净智妙圆，本来是空寂没有自体的，这样的功德不是靠世间法能求来的。”

梁武帝又问：“如何是圣谛第一义？”

祖师道：“廓然无圣。”梁武帝反问：“对朕者谁？”祖师道：“不识。”

梁武帝不能领悟，达摩祖师知道梁武帝的机缘不契，于当月十九日离开金陵，秘密回到江北。

达摩祖师云游到了嵩山少林寺，面壁而坐，终日默然，人莫测之，被称为“壁观婆罗门”。当时的神光法师四处访贤求道，听闻有位天竺来的神僧住在少林寺，便前往拜访。

神光法师虽时时伺机参问，但因达摩祖师面壁禅坐，并不向其开示，只好守候在洞外。深冬季节，一日，天降大雪，神光仍然伫立在洞外风雪之中。

达摩祖师问道：“你因何事，久立不去？”

法师答：“只求和尚为我开示无上妙法。”

祖师见多了那些谈玄猎奇、无志实修的知解之徒，说：“如来无上妙道，非同世俗学问，需要具备能行难行、能忍难忍的毅力，以及坚持不懈、百折不回的恒心，方可学修。贪图小智、无德无义、谄曲轻慢者，不能受持。”怎料，神光法师竟然以刀自断左臂，并置于达摩祖师面前，以表决心。

神光法师坚定求法的举动得到了达摩祖师的认可，并赐法名“慧可”。此后，法师跟随达摩祖师，朝夕参学修行，长达九年，终于得其心要，继承衣法。临别时，达摩祖师说：“二百年后，此如来禅法将在中土广泛传播，虽然说理者多，通理者少，明道者多，行道者少，但自参自悟，潜行密证者仍然成千上万，不可胜数。”

北魏时期，北地佛教非常兴盛，禅隽如林，其中光统律师、流支三藏二人乃僧中之佼佼者。对于达摩祖师每次讲道，破斥名相、直指人心的做法，那些执于名相的法师们颇不以为然。所以他们经常与达摩祖师进行论辩，一时是非蜂起。

由于心量狭小，他们当中竟有人生起害心，数度投毒，欲加害祖师。第六次投毒的时候，祖师预知化缘已尽，不复自救，怡然端坐而逝。后葬熊耳山，起塔于定林寺。当时是西魏文帝大统二年（536）十月五日。

达摩祖师圆寂后三年，一天，西魏使臣宋云奉命出使西域回来，途中于葱岭遇见了达摩祖师。当时祖师正提着一只草鞋，翩翩而来。

宋云上前问道：“师何往？”

祖师道：“西天去！”

宋云回到魏都以后，详细地谈到了这一经过。当时朝中百官都很惊诧，于是令达摩祖师的门人开圹验证，果然发现棺材里面是空的，只剩下一只草鞋。一时，朝中上下无不惊叹。于是门人奉诏，将祖师留下的那只草鞋放在少林寺供养。到了唐朝开元十五年，有位信士将这只草鞋偷走，供奉在五台山华严寺，后来便不知去向。