达摩大师秉承了般若多罗的遗训，乘一只做生意的商船，航海东来。先到中国南海。当时南海的刺史肖昂，马上就写了一道表上报梁武帝。梁武帝得知印度来了一个有道德的高僧达摩大师，心里非常敬仰。于是派人到南海来专程迎接到金陵（南京）弘扬佛法，普度众生。梁武帝是非常信仰佛法，而且大弘法化，发菩提心，兴隆三宝，造庙度僧，布施结缘。每隔五里地方，就造一座寺，每隔十里地方，就造一所庵，度很多善男信女去出家做和尚、当尼姑。他自己对于佛学也是非常精通，但他只知道着相事修，追求人天福报，不知道离相妙修求证佛果菩提。梁武帝一见到达摩大师，就请求开示法要。

问曰：朕一生所有造寺、度僧、写经、弘扬佛法、到底有没有功德。

祖曰：没有功德，只是人天之果，有漏之因，如影随形，看来虽有，实在没有。

帝曰：如何是真实功德呢？

祖曰：清净智慧是微妙圆融，本体空寂，无法可得，如是功德，绝对不是世间上有为之法所能求到的。

帝曰：如何是圣人所求的第一义谛呢？

祖曰：廓然浩荡，本无圣贤。

帝曰：对朕者谁？

祖曰：我不认识。

达摩与梁武帝二人，一问一答，可惜不能契合于梁武帝的小机。由于教大机小，所以梁武帝不领悟达摩大师的根本法要。达摩禅师认为既是机缘不合，就离开金陵到洛阳去。这真是情投意合千言少，话不投机半句多。后来，梁武帝把上面问答情况，告知他的师父志公禅师，禅师听后就大吃一惊，即对陛下说：达摩大师这个开示实在太好了，他是观音大士，传佛心印的大权出现，乘愿再来。

粱武帝听了志公禅师这么一说，心里感到懊悔，自愧有眼不识泰山，当面错过，立刻就下了一道命令，派遣许多兵马，急急追赶，一定要把达摩大师请回来，承事供养。志公说：陛下千军万马，唤不回头。达摩大师刚走到江边，回头一看，后面有许多兵马追赶而来，大师正在危急时刻，随手就折了一支芦苇，掷在江中，脚踏芦苇渡江，扬长而去。到了洛阳，住在嵩山少林寺，面壁九年，深入禅定。后来古人写了一付对联：“一苇渡江何处去，九年面壁待人来。”