달마 대사는 본디 남인도 사람인데, 선불교를 중국에 처음으로 전파했다. 그의 아버지는
남인도 향지 나라의 왕으로 불법을 몹시 숭상하여 많은 중생에게 이로움을 베풀었다. 그에게는 세 아들이 있었는데, 달마 대사는 그중 막내아들로 보리다라라고 불리었다.
그 무렵 인도 최고의 도인이라고 칭송받던 반야다라 존자가 있었다. 그는 향지 나라 왕과
교분이 있어 왕래하던 중 보리다라 왕자의 총명함을 마음에 두고 있었다. 뒷날 향지 나라의 왕이 세상을 떠나자 모든 사람이 통곡하였으나 보리다라만은 영구 앞에서 선정에 들어가 7일 만에 깨어났다. 그러고는 출가하여 반야다라 존자의 제자가 되었다.
“그대는 이미 모든 법을 다 깨달았다. 이제 그대를 보리달마라 하겠으니, 달마라 함은 통달하고 크다는 뜻이다.”
이리하여 보리다라 왕자는 보리달마라 불리게 되었고, 사람들은 그것을 줄여서 흔히 달마
대사라고 불렀다.
“반야다라 존자여, 제자는 이미 법을 얻었다 하셨습니다. 이제 어디로 가서 불사를 하오리까? 바라옵건대 일러주옵소서.”
“그대가 비록 깨달음을 얻었으나, 멀리 떠나지는 마라. 우선 남인도에 머물러 정진하다 내가 열반에 들고 나서 예순일곱 해가 지나면 동쪽으로 가라. 그곳에서 상근기(上根機).들을
직접 대하라. 행여 너무 빨리 떠나서 햇볕에 시드는 일이 없도록 하라.”
“그 나라에 법의 그릇이 될 만한 사람들이 있겠습니까?”
“그대가 교화한 지방에서 깨달음을 얻는 이가 셀 수도 없을 정도로 많이 나올 것이다. 그러나 남쪽에는 머물지 마라. 그곳에는 유위공덕(有爲功德).만을 좋아하는 사람이 있어 부처님의 이치를 바르게 보지 못하리라. 또 그대가 그곳에 가더라도 오래 머물지는 마라.”
반야다라 존자가 열반에 든 지 예순일곱 해가 지나자, 달마 대사는 스승의 뜻을 받들어 중국으로 갔다. 그리고 그때까지 중국에 전래된 불교와는 다른 선불교를 전파하여, 이른바
달마선의 시조가 되었다.

달마 대사가 처음 도착한 곳은 광주로 양(梁)나라의 땅이었다. 양나라의 왕은 불심천자라고 칭송을 받으며 불교를 위하여 헌신한 무제(武帝)였다. 무제는 달마 대사가 도착하였다는 소식을 듣고 그를 모셔와 물었다.
“짐이 왕위에 오른 이래로, 절을 짓고 경전을 펴냈으며 승려를 득도시킴이 헤아릴 수 없는데, 어떤 공덕이 있소?”
“아무 공덕도 없습니다.”
“어찌하여 공덕이 없단 말이오?”
“이는 인간과 하늘의 작은 결과를 받는 유루(有漏).의 원인일 뿐이니, 마치 그림자가 형상을 따르는 것과 같아 있는 듯하나 실제가 아닙니다.”
“그렇다면 어떤 것이 진실한 공덕이오?”
“청정한 지혜는 오묘하고 원만하여 본체가 원래 비어 있어 고요하니, 이러한 공덕은 세상의 법으로는 구하지 못합니다.”
“어떤 것이 성제(聖諦).의 으뜸가는 이치요?”
“전혀 거룩함[聖]이 없습니다.”
“짐을 대하고 있는 이는 누구요?”
“모릅니다.”
지금까지 무제는 수없이 많은 절을 짓고, 많은 탑을 쌓았으며, 스님들을 공양했다. 그래서
스스로 한량없는 복을 지었다고 자부하며 살아왔다. 그리고 그가 만난 많은 스님도 한결같이 그를 찬탄하고 칭송했다. 그런데 어디서 듣지도 보지도 못한 스님이 대뜸 아무 공덕도
없다고 하였으니, 무제는 노여움을 참을 수가 없었다.

양무제와는 인연이 닿지 않음을 느낀 달마 대사는 남쪽에 머물지 말라고 하신 반야다라 존자의 말씀을 떠올리고, 양자강을 건너 위나라로 가려고 마음먹었다. 달마 대사가 양자강을 건너려는 순간에 먼지를 일으키며 한 떼의 군마가 다가오는 것이 보였다. 자신의 공덕과 선행이 무시당한 것에 대해 화를 삭이지 못한 무제가 달마 대사를 죽이라고 명령을 내린 것이다. 그러자 달마 대사는 강가에 자라나 있는 갈대 잎을 꺾어 강물 위에 띄우고는,
그 위에 올라 유유히 강을 건넜다. 이윽고 숭산 소림사에 도착한 달마 대사는 아홉 해 동안
면벽좌선을 하며 때가 오기를 기다렸다.