穿过天王殿，便是第二层院落。眼前凸字形高台上，座落着宏伟的大雄宝殿。大雄宝殿为法源寺的主要建筑，东西阔五间，南北进深三间，檐下布五重昂斗拱、歇山顶，青灰色筒瓦，脊、吻兽、檐枋、檐栋均施以精美的描金彩绘。殿内供三世佛，中间供释迦牟尼佛，左供过去世的迦叶佛，右边供未来世的弥勒佛，东西二壁为二十圣僧像。
法源寺的第三层院落中央置观音阁，为唐中和年间(881——884)幽州节度使李可举所建(亦称悯忠寺阁)，阁东西外侧两壁嵌有唐、辽、金、清历代碑刻，其中有唐肃宗至德二年(公元757年)张不矜撰写苏灵芝书《无垢净光宝塔颂》，唐昭宗景福元年(公元892年)《唐悯忠寺重藏舍利记》，暨金大定十八年(公元1178年)《北部令史题名记》等。这些石刻有的保存了研究唐朝的重要资料，有的则清楚地反映了佛教的性质及统治者推崇佛教的目的。嘉庆十一年(公元1806年)诗人余集，王昶等分题法源八咏也嵌于东西二壁。阁内供奉着木雕十一面三十二臂观音像，塑造精美，生动秀丽。
大通觉堂中供奉着玄奘法师顶骨舍利，这颗顶骨为宋端拱元年(公元988)金陵长干寺演纯大师可政在终南山紫阁寺得到的，空禄五年(公元1017年)建塔于长干寺藏之。清咸丰四年(公元1854年)，寺塔俱毁。1943年因修建，据出土石函上铭刻记载。知是玄奘法师顶骨舍利，并在北海公园内建塔藏之。五十年代后将佛宝移供于法源寺。
藏经阁位于寺院的最后一进院落。上下两层，均为东西面阔五间，南北进深三间。外观呈现朱红色，青灰色的殿顶。檐枋等施以花卉人物故事为题材的精美彩绘。阁东西两侧有朱红小楼，扶廓将小楼与主楼边接成一体，使建筑显得格外紧凑别致。
据史籍载：唐贞观十九年(公元645年)，太宗曾拟在幽州镇城东南隅或城东门之东(今宣武门外)建寺以悼念、悯抚阵亡将士，至高宗李治又下诏修建，但都未果。武后万岁通天元年，寺始建成，并赐名“悯忠寺”。唐中和二年，寺遭火灾，塔阁均已无存，至景福年间，节度使李匡威重加修建，并盖起三层巨阁以供观音。五代时，一度改为尼寺。到辽保宁三年，幽州大地震，全寺倾圮后，随即奉诏修复。金大定十三年，曾以此寺作为女真人进士考场。明正统二年，寺僧再次修葺，易名“崇福寺”，清雍正十二年改名为“法源寺”。
