우리는 고려불교 패망의 원인과 관련있는 뼈아픈 사실을 몇 가지 점에서 지적하지 않을 수 없다.
지난호에서 살펴 보았듯이 무신정권의 대두와 양대 전란인 몽고와 거란의 침략은 전체 고려사회와 고려불교를 붕괴시키는 근원적이고 직접적인 원인이 되었다. 그리고 정치권력과 지나치게 밀착되었던 종파불교는 과열한 경쟁을 불러일으킴으로써 불교의 세속화를 세속시켰으며, 특히 몽고의 지배 이후 승려들의 문란한 승정(僧政)은 불교를 질적으로 저하시킴으로써 불교 패망의 보다 근원적인 원인이 되기도 했다. 몽고 지배 이후, 불교에 대해서는 비교적 관대하여 원(元)의 불교제도가 수용되었으며 승려의 세속적인 우대가 오히려 증가했지만, 승정에 대한 간여는 이권(利樓) 투쟁으로 인한 종파간의 갈등을 더욱 심하게 하였던 것이다.
한편, 사회 풍속적인 면에서도 몽고풍의 수렵과 목욕이 왕실에 유행했다. 불교 내부에도 육식하는 라마(羅聊)교의 풍속과 함께 말폐적인 밀교의 여러 풍속이 들어와 계율정신이 무너졌는데, 특히 원나라 세력과 결탁한 승려들의 호화로운 생활과 풍속은 지식인들의 지탄의 대상이 되었다. 그러므로 자연히 몽고에 왕래하는 고려의 승려가 늘어났으며, 또한 몽고의 승려가 고려 사원에 머무르기도 하였다. 몽고사회는 유목사회였기 때문에 몽고의 승려들에게는 일찍부터 육식이 허락되어 있었고 이러한 몽고 풍습은 고려사회에까지 영향을 미쳐 승려들에게 육식하는 습관이 생겼다. 게다가 전란으로 언한 승정의 문란은 승려가 취처(娶妻)하는 것과 같은 성도덕의 문란으로 이어지기도 하였다. 그리고 이러한 성도덕의 문란은 몽고 유목민의 다처제 관습과 약탈혼적인 경향이 고려사회에 영향을 미쳤기 때문이기도 하지만 전란으로 인하여 많은 전몰 미망인이 생긴 것과 재혼이 자유로 왔던 고려사회의 사회윤리적인 성도덕 들과도 연관을 가지고 있었다.
한편, 전란으로 인하여 사원 경제의 근간이었던 사원전(寺院田)이 본래 목적에서 벗어나 숭려 개인의 세속적인 치부 수단으로 등장하였다. 특히 재력이 풍부한 절의 주지가 되기 위해서 정치실권자와 결탁하여 돈으로 주지직을 사는 자들이 나타났는데, 충렬왕 때에는 일본 침략으로 재정이 고갈되었던 정부에 돈을 주고 승계(僧階)를 샀던 자들도 있었다.
또한 전란 이후에는, 본디 공전이었던 사원전의 상당수가 사전화되면서 사원의 사전 확대가 진전되었다. 이러한 경제구조는 국가의 재정에도 막대한 영향을 미쳐서, 충선왕을 비롯하여 개혁정치를 구상하였던 유학자들에게는 사원이 수도집단이기보다는 세속의 이익 집단으로 평가되기에 이르렀다. 그리고 이러한 사원의 경제적인 타락이 배불(排佛)의 가장 중요한 원인이 되기도 하였다.
한편, 전란으로 인하여 개경(開京) 사원이 폐허화되면서 지방불교의 기능이 확대되는 반면에 중앙불교계의 통제가 약화되면서 승려들의 질적인 저하가 현저하게 나타났다. 이렇게 중앙불교계의 통제가 약화됨에 따라서 지방불교에는 두 가지의 경향이 나타났다. 그 하나는 불교계의 여러 가지 타락에 대한 각성으로 일어난 결사(結社) 불교의 성립이었다. 그리고 여기서 중심이 되는 사찰이 조계산의 수선사와 만덕산의 백련사였다. 이들 결사는 세속과 유대를 가지면서 난세를 이끌어감으로써 종교적 기능을 확대하였으며, 따라서 불교계의 세속화를 막고 부정적인 측면을 막아 주는 역할을 담당하였다.
불교의 지방화에 따른 또 하나의 현상은 세속화 현상으로 나타났는데, 이런 현상은 우선 승직자의 구성에서 지적된다. 본래 고려시대의 출가 신분은 양인(良人)이면 제한을 받지 않았으나, 천인은 사노(寺奴)로서 승려가 될 수 없었다. 우선 노비로서 승려가 된 자로는 옥천사비(玉泉寺婢) 출신의 신돈(幸旽)을 뽑을 수 있으며, 왕실의 궁인(宮人)의 자(子)로는 소군(小君)을 들 수 있다.
소군이란 왕과 천민 사이에서 태어난 왕자를 일컫는 말로서, 한쪽이 천민이면 천민이 되었던 전통적 신분에서 보면 분명히 소군이란 천민이지만 아비가 국왕이라는 특수성 때문에 실제로는 막강한 실권을 행사할 수 있었는데, 이러한 소군들의 비행(非行)이 적잖게 불교계를 타락시키는 요인이 되었다. 이러한 소군의 폐단은 무신정권의 절정기인 최이의 집권시에 두드러졌는데 희종(熙宗)의 왕자로서 십여명의 소군이 있었고, 이후 몽고 압제 아래서 또는 국권 회복기인 공민왕 때에도 소군에 의한 피해가 지적되고 있다. 특히 최이의 두 아들인 만전(萬全)과 만종(萬宗)은 어미가 비(媒)였으므로 출가하도록 조치 받았다. 그 당시에 최이는 왕과 동등한 예우를 받았으므로 이들의 출가는 소군과 같은 셈이고, 이들이 불교계에 끼친 영향과 폐단은 소군 이상이었다. 몽고의 침략을 적게 받은 남부지방의 단속사(斷俗寺)와 쌍봉사(雙奉寺)에 출가한 이들은 관곡(官觀)을 이용하여 경제기반을 확보하였으며, 만종은 환속하여 신분제를 무시하고 최이의 뒤를 이어 집권하였다 소군들의 폐단은 여기에 머무르지 않고 당시에 대표적인 결사였던 수선사를 정치 실권자와 결탁하게 만들었다. 그리고 왕정복고기에 문신들과 교류를 가지며 결사정신을 고수하던 만덕산 백련사도 몽고 압제 아래서 원나라 왕실의 후원을 받으면서 그 본래의 정신이 변질되도록 하였다.
고려 후기에 승려의 자질이 급격하게 떨어진 이유 가운데 하나는 각 종파가 교리상의 특성을 발전시키지 못하고 승파가 제대로 시행되지 못한 데서도 찾을 수 있다. 이렇게 각 종파가 교리상의 특성을 발전시키지 못한 배경은 다음과 같은 불교사상적인 측면에서 살펴 보아야 할 것이다.
무신정권 이후로 교종이 몰락하고 선종이 홍기한 이면에는 사상적인 변에서의 국제적인 고립을 볼 수 있다. 의천이 주도했던 범동아적인 불교사상의 경향은 다시 복고적이며 영험을 중시하는 불교로 전환되었다 여기에는 무신정권의 장기화에 따른 사회적 불안과 몽고침략 동의 전쟁으로 인한 민중의 심리적인 요인도 있었다. 이러한 선종의 대두로 말미암아 의천에 의해 주도되었던 주석적인 교리의 탐구는 크게 후퇴하였다. 이는 후기에 화엄종이나 유가종에서 교리를 체계있게 분석하거나 연구한 저술이 거의 없다는 데에서도 알 수 있다. 오히려 종파불교는 경직화해서, 교리탐구보다는 교단을 유지하기 위한 수행과 의식이 강조된 실천 불교의 경향이 두드러졌다고 할 수 있다.
교종이 이렇게 침체한 반면에 선종은 간화선(看話輝)을 도입하여 참선의 목표가 되는 화두를 사념의 핵으로 삼아 단순성과 원초성에서 인성(A性)의 본질을 파악하려는 수행 활용에 몰입하였다. 간화선의 이러한 생리는 무신의 행동적이고 단순한 사고에 부합하였으며, 혼란스러운 기운데 단순화를 요구하는 당시의 시대적 상황에도 맞아서 크게 호응을 받았다. 따라서 자연스럽게 간화선에 관계되는 조사(祖師)들의 기록이나 선종사에 대한 저술이 간행되었는데 여기에는 조당집(祖堂集)을 비롯하여 경덕전등록(景德傳燈錄), 선문염송(輝門括煩) 등이 었었다.
간화선이 유행하면서 겉으로는 불입문자(不立文子)를 내세우면서도 한편으로는 선(輝)적인 이론을 바탕으로 하여 교종의 이론적인 근거를 통합해 갔다. 따라서, 결과적으로 심오하며 분석적인 불교 교리의 다양성을 바탕으로 한 종파의 이론적 고유성이 상실되었으며, 다른 사상, 특히 성리학의 도전에 대해 대응할 수 있는 방법을 갖출 수 없었다. 그래서 전통사상으로 재무장한 성리학의 도전에 타협과 융합으로 대체했을 뿐 그 특성을 내세우지 못한 채 불교의 사상적인 기반을 상실하고 마는 결과를 낳았던 것이다. 이와 같이 불교계의 이론적 탐구의 소홀로 인한 불교계의 변질과 교리적인 특정의 상실은 종파간의 분쟁을 격화시키는 세속화의 길이었다.
그리고 신돈의 인물됨에 대해서는 아직까지 정확히 밝혀져 있지는 않지만, 공민왕 때 태고보우(太古普愚)와 신돈은 각기 승정을 장악하려는 갈등을 벌였으므로 그 갈등으로 인하여 불교계는 크게 약화되고 있었다. 또한 이 틈바구니에서 각 사원은 종파간의 쟁탈의 대상이 되기도 하였다.