当时，高僧道安在太行恒山建立寺院，弘传佛法，名声很大，慧远前往归附。一见道安，慧远就认为只有道安才是他真正的师父。后来听道安讲《般若经》，豁然而悟，和弟弟慧持一起弃世出家，跟从道安学习佛法。

    由于慧远读书功底深厚，修行之心坚定，所以对佛学有深刻的认识和理解。慧远二十四岁时，就开始讲经说法。有些听他讲经的徒众，遇到一些疑难问题，始终弄不懂，慧远就引述《庄子》的内容进行比喻，使这些疑难问题迎刃而解。此后，道安特许慧远可以读世俗之书。

    公元三七三年，前秦将领苻丕攻占襄阳。道安因故不能离开襄阳，便分派徒众前往各地。临分手时，慧远跪下对师父说：“弟子独自一人，没有师父的训导、勉励，恐怕不能成事。”道安说：“像你这样有功力的人不用担心。”

    于是慧远带领弟子十多人，南下荆州，住在上明寺。后来想去罗浮山，走到浔阳时，见庐山风景秀丽，足以休心，便住在龙泉寺。龙泉寺附近没有水源，吃水困难，慧远便用锡杖敲打地面说：“如果我可以在这里住下来，地下当涌出清泉。”话音刚落，清泉涌出，汇流成溪。

    当时有个沙门慧永与慧远是同门旧好，住在西林寺，邀请慧远到他那里去住。慧永对当地的太守桓伊说：“贫僧弘扬佛法，弟子很多，来问学的人也会很多。而我现有的地方很狭小，不够师徒们住，怎么办？”

    桓伊就在庐山的东部为慧远修建了许多僧房和殿堂，这就是东林寺。东林寺背靠香炉峰，傍依瀑布，松树成林，清泉绕阶，收尽山色之美，前来瞻仰的人，倍感神清气爽。

    当初，陶侃任广州太守时，有个打鱼人在海上见到佛光，每天晚上都发出鲜艳的光芒，过了十天之后，光明更盛。渔人感到很奇怪，上报陶侃，陶侃亲自前往察看，原来是阿育王像在发光，立即将神像接回，送到武昌寒溪寺。一次，寒溪寺寺主僧珍，因故前往夏口，夜里梦见寺院着火，只有阿育王像所居之屋有龙神围绕。僧珍醒来，立即赶回寒溪寺，寺院果然被烧尽，只有存放阿育王像的房子完好无损。

    陶侃后来又调任他处，想带走阿育王像。谁知十多人把佛像抬到船上，船却沉没了。待慧远创建东林寺后，祈心奉请，阿育王像飘然自轻，自己来到东林寺。人们这才知道慧远的神威。

    慧远率众行道，昏晓不绝，佛法大兴。因此信徒望风遥集，来到东林寺。鼓城的刘遗民、豫章的雷次宗、雁门的毕颖之、南阳的宗炳等一代名士，都舍弃世俗的荣华，来依附慧远。慧远在寺院的无量寿佛像前，建斋立誓，共期往生西方极乐之世界。

    慧远以弘法为己任，每有西域高僧到来，都要谦虚求教。他听说鸠摩罗什来到关中，立即写信问候，后来，二人书信来往，共商佛法要义。后秦姚兴很钦慕慧远的风范和才华，致信殷勤问候，还赠送了龟兹国的细缕杂变像，以示敬仰之心。

    桓玄带兵征讨殷仲堪时，路过庐山，派人请慧远出山。慧远声称有病，桓玄便亲自进山。手下人对桓玄说：“殷仲堪曾经上山敬礼慧远，您可不要这样做。”桓玄说：“岂有此理。殷仲堪算什么人！”待见到慧远，桓玄不知不觉就上前敬礼，并问：“我不敢毁伤发肤，请问大师我应该怎样信奉佛教？”

    慧远回答：“立身行道。”

    桓玄认为慧远回答得非常正确。原来想好的一些驳难，一句也不敢说出来。谈到征讨殷仲堪的事，慧远一言不发。

    下山后，桓玄对部下说，生平从未见过像慧远法师这样的人。后来，桓玄又多次邀请慧远出仕做官，但慧远态度坚决，决不改变自己的志向。

    当时桓玄在姑苏城，认为僧人应当礼敬帝王，慧远随即写出《沙门不敬王者论》一文，说服了桓玄。大诗人谢灵运，恃才傲物，很少有人能受到他的推崇，等他见过慧远法师后，肃然起敬。

    慧远在庐山上住了三十余年，从未出山踏入过世俗社会。每逢送客或散步时，都以东林寺前的虎溪为界，不再往前走。有一次，慧远与陶渊明、陆修静说佛谈玄，评诗论文，谈得十分投机，不觉红日西沉，天色将晚。陶渊明、陆修静起身告退，慧远送二人出寺，边送边谈，不知不觉间竟过了虎溪。只听山中猛虎吼啸不止，林树生风，草木摇曳。三人相视，抚掌大笑。慧远只好留步，与二人依依告别。这段佳话，被后人称为“虎溪三笑”。

    公元四一六年八月，慧远感觉身体不适，弟子请求他喝些蜜水。慧远令解说戒律的僧人翻阅律文，看看是否能喝，律文还未翻完便去世了，终年八十三岁。