大迦叶出生于两千六百年前的古印度。当时在摩竭陀国王舍城边的摩诃娑罗陀村中，住着一位婆罗门族的大富长者，名叫尼拘卢陀竭波，他的财产比当时的国王--频婆娑罗王还要富有，这就是大迦叶的父亲。因为尊者出生时有与佛陀降生时相仿的瑞相，故父母为他取名毕钵罗耶那，其意即为"树下生"。由于尊者为长者的独生子，父母亲对他十分疼爱。
尊者八岁时，依例受了婆罗门的戒条，并请老师教他各种学问。他聪明而好学，不久祭祀法、算数、文学、书画、五明、四吠陀、星宿运行、阴阳吉凶、地震雷鸣、音乐、舞蹈等样样都会。但他讨厌世上的欢乐，并希望离群独居。大迦叶在没有出家之前，就是一位志气清高，不着欲染的青年，在父母为他娶亲后，他竟然和妻子妙贤分床而睡，两人就这样一起生活了十二年，传为佳话。
后父母先后辞世，三十多岁的尊者即与妙贤商量出家之事，结果两人说好先让大迦叶去寻访明师，待访到明师后，再回来接她出家。迦叶离家访师，但一连几位修行者所说的道理都不能使他满意，最后听到佛陀是相好威严的大觉者，他就去见佛陀，并皈依了佛陀。佛陀在竹林精舍为大迦叶剃度，还为他讲说四谛、十二因缘等法。在剃度后的第八天，大迦叶即证得阿罗汉果。在大迦叶出家后一年，即是佛陀证道后的第三年，由于佛陀的姨母摩诃波阁波提的出家，佛教中开始有了比丘尼僧团，大迦叶就请一位比丘尼将妙贤接来，加入僧团。由于她励行勇猛，修持精进，很快就证得阿罗汉果，佛陀赞叹说："在比丘尼中，没有一个能比妙贤比丘尼更通宿命了。"