北宋时，相国寺不仅是京师最大的佛寺，还是管理全国寺院，负责委派各寺院住持僧侣的左、右街僧录之一。宋代帝王也多来巡幸，大臣、亲王为灾异祈祷，为君主诞日庆贺，忌日行香，重臣追荐，群臣宴会诸多礼仪也都在寺内举行。各种佛事活动和僧俗酬唱，文人题咏也是都城盛事，，被称为"皇家寺"。

北宋时期，几次增修，寺内分为455区，占地面积达540亩，内分64院，合并于神宗元丰年间（1080～1082年），分属慧林、智海两大禅院和定慈、宝觉等律院。禅、律院数记载不一，为二禅院八律院（一说八禅院二律院）寺院内布满宋代名手高益、燕文贵、石恪、孙梦卿等人的壁画，同时寺内也开始庙会和市易，"伎巧百工列肆，罔有不集，四方珍异之物，悉萃其间"翰林学士宋白奉勒撰写的《新修大相寺碑铭》中赞曰："隋堤之侧，寺名相国。仿佛天宫，光华日域。轮焉奂焉，五色相宜。春陵宝马，许史云軿。争趋胜地，如会诸天。不可思议，叹未曾有。"

北宋以后由于国都的迁移和兵火水灾频仍，相国寺趋于衰落。明代则一度中兴，曾置僧纲司于寺内，掌理开封府属各寺庙事务，并南、北大黄寺、景福寺于相国寺，寺产骤增，经济好转，殿字僧舍多处增修，并重建了资圣阁，明人顾禄曾赞诗称："金碧棱层炫晓霞，梵宫高阁壮中华，上摩绛阙三千界，下瞰红尘十万家。"极言寺院的宏丽，但比起巅峰时的宋代则略有逊色。明代中期成化二十年（1484年）寺额曾勅改为"崇法禅寺"这个寺名直到清代顺治十八年（1661年）重修时才恢复原名大相国寺，用了178年之久。

相国寺在明末遭受一次浩劫，崇祯十五年（1642年），大水淹开封，城内一片泽国，相国寺仅露出大殿屋脊，鳞次翼比的殿堂僧寮俱化为黄沙白草。清人统治中国，提倡佛教，从顺治十八年（1661年）到光绪二十年（1894年）先后修葺相国寺9次，其中以乾隆三十一年到三十三年（1766～1768年）的规模最大，动用国帑1万两，历时2年余，乾隆并亲书"勅修相国寺"匾额，今日寺中各主要建筑，多系此次重修所遗。乾隆时寺院内附建了各郡行馆和祗园小筑等世俗建筑，寺院的规模已较前缩小。变化最大的要数1927年，此年冯玉祥主持豫政，在全省毁庙易俗，废寺逐僧改相国寺为中山市场，并在寺内创设革命纪念馆、实业馆等，以后统属河南省民众教育馆。寺内佛像除千手千眼佛外，大部被毁。寺内建筑物长年失修，残破另落。