此宗始于鸠摩罗什译出龙树《中论》、《十二门论》与提婆的《百论》，奠基于南北朝僧肇、辽东僧朗、兴皇法朗、茅山大明、吉藏大师。因依《中论》、《十二门论》和《百论》等三论立宗，故名为三论宗，属大乘中观派。
鸠摩罗什来到中国后，尽译三论，弟子事之者称三千人。以道融、僧睿、僧肇、道生，为尤著，并称为"关中四杰"。至什公去世，姚秦败亡，弟子四散，各自传播经典。其中被称为“解空第一”的僧肇不幸早死。向东南弘传的，如彭城的僧嵩，寿春的僧导，主要以《成实论》的宏扬为主，后世称为成实宗。至于僧睿、道生、慧观等人，则重视《法华经》与《涅盘经》的传播，至于鸠摩罗什所重视的般若中观与三论则反而被遗忘了。重新将三论研究发扬光大的，则是辽东僧朗大师及其门下。
僧朗大师原居辽东，因当时辽东属于高丽，僧朗大师又被称为“高丽朗”，对华严、三论有深入研究。僧朗大师的传承不明，嘉祥吉藏说他曾在北方学到什公、僧肇门下的三论正义。南朝齐建武(西元494─497)年间，僧朗大师到达江南，隐居于摄山(即栖霞山)，梁武帝派了僧诠等十人，去向他学习三论，三论宗也随之光大。僧诠大师后住摄山止观寺，终身不下山，同样致力于华严、三论的研究。兴皇法朗，长干智辩，禅众慧勇，栖霞慧布都是僧诠大师的得意门徒。兴皇法朗曾作《山门玄义》，以三论意旨评破成实宗，因其辩才，又被称为“伏虎朗”。在法朗大师的努力下，三论传遍江南，远至于四川，成为南朝陈的佛教正宗。他的徒弟嘉祥吉藏大师是三论义学的集大成者。
兴皇法朗去世时，嘱付茅山大明法师继续领导其门下学众，茅山明法师“即日辞朗，领门人入茅山，终身不出”。他的门人，如慧皓、慧棱、法敏等都是杰出人才，牛头宗的创始者法融也出于他门下。另一个门人智锴大师隐居庐山大林寺，二十年不下山，智锴曾从智顗，兼习天台教义，禅宗四祖道信曾经居于大林寺十年，之后道信改变菩提达摩以《楞伽经》印心的传统，改以般若经教学，不能说没有受到三论宗的影响。