传说鸠摩罗什于公元343年出生于龟兹(今新疆库什一带)，其父亲先代出自印度婆罗门族，是印度有名的官宦世家。祖父鸠摩达多官至相国。父亲鸠摩炎聪慧有德行，本可继承相国一职，但极信佛事，不愿做官，于是剃度出家，皈依佛门。鸠摩罗什自小就显示出了聪明绝顶的才智，他每天能让住千条偈语，心中竟积有三万余言，师傅的传道，当时他就能省悟通晓。

佛经中的隐微之意，常人还没法觉察之前他已能熟解于心。九岁时，罗什随母亲渡过辛头河，到达厦宗宾(克什米尔一带)，拜师于名德法师槃头达多。达多是国王从弟，博学多才，名闻印度诸多邦国。罗什随他学了《杂藏》及中、长二《含》等四百万言的经典。

达多常称赞他神俊非凡。国王听到后，便请他进宫还召集外道论师前来和他辩论。面对着他这年幼的模样，人们哪看得起他，出语常常无礼。对众人的傲慢，罗什心定气闲，不急不恼，突然发语，指出其误谬，其思路敏捷、逻辑严密，令对方理屈词穷、瞠目无言。既挫败对手，国王赞叹不已，对他特加礼遇，待如上宾。

公元355年，罗什十二岁，母亲带着他离开劂宾国，去到西域一个叫做沙勒(现新疆西北喀什一带)的国家。沙勒当时流行的也主要是小乘佛教。罗什母子在沙勒滞留一年，求师问难，对小乘经论六足》、《增一阿含经》等进行深入地研究。

很快，少年罗什的佛学天才引起了沙勒佛学界的注意，有个叫做喜见的沙门，专为罗什的事向沙勒国王提出建议，他说“此沙门(指罗什)不可轻视怠慢，大最好请他升座说法，这样做对我们有两大好处:其一，可使我国沙门认识到自己的不足，以激励他们勤勉努力，迎头奋进;其二，罗什在我国升座说法，龟兹国人必然认为罗什是我们培养出来的，他们尊敬罗什，就是尊敬我国，而尊敬我国，必然和我们交好，这对双方都有好处。

于是，沙勒国王大会国中沙门，请鸠摩罗什升座为众僧讲《转法轮经》。少年罗什升座，从容起讲，滔滔不绝，析句分难，无所滞碍，听者无不心满意足。一时名重沙勒，声传四邻。龟兹国王知道这件事后，果然派遣使者，向沙勒王表示酬谢和友好。