佛陀灭度后的九十日，结集法藏的典礼开始。起初，大迦叶为了选择结集的场所，费了一番苦心。竹林精舍、祇园精舍，都过于宽大，而且这些地方还有很多没有离欲证果的比丘住着，最后他选定王舍城东南的大竹林中一个很大的石室，这个石室叫毕波罗延石窟。
在静寂的林中，宽大的石室里，正是尘外中的尘外。五百阿罗汉的圣弟子，公推大迦叶、阿难陀、阿那律、优波离、富楼那尊者等为上首。尤其是尊者大迦叶以首座的身分，在大众之前数说阿难陀的六罪，责怪他尚未证得最高的圣果等，每一罪都下一筹，甚威严有如佛陀，一向如天之骄子似的阿难陀，在大迦叶之前，也不敢反抗，只得认错。
大迦叶的伟大，由佛陀灭度，在那么多圣弟子中，他能统理大众，并没有把教团弄得四分五裂一事就可以知道。在佛陀涅槃的时候，他的声望和权威，实在是如同磐石的重要。当佛陀在世时，那英才焕发的舍利弗和目犍连二大弟子，在教团中内外活动，做着佛陀的股肱时，大迦叶是默默的修道，就是有一些活动，都是很有限的。但到佛陀和二大弟子涅槃后，所谓水落石出，居然负责领导起教团来，由此可以看出他高深的修养，和宽大的度量。