基层塔身东、西、南、北各辟一室，门以叠涩手法作圭形尖顶，东、西、南三面为洞室，唯北门设砖梯可环绕塔心柱盘旋升至塔顶。塔身层层八面开窗，一层南，二层西，三层北，四层东，依次类推为明窗，其余皆为盲窗。这些明窗的设计不仅为了采光、通风、了望之用，而且起到了调节缓和强大风力的作用。支撑铁塔的核心力量是粗壮的塔心柱。各种不同用途的外壁砖瓦构件通过蹬道与塔心柱紧密衔接，成为一体，形成了强有力的抗震体系。

塔身外壁镶的花纹砖约50种，计有飞天、降龙、麒麟、坐佛、立僧、菩萨、狮子、伎乐、花卉等图案。这些精美的图案是研究宋代雕刻、塑造艺术的珍贵资料。

铁塔自建成至今900多年来，据不完全统计，曾经历了地震43次，河患6次，暴风19次，暴雨患17次，冰雹10次，受到了不同程度的损坏，现从塔内外所见琉璃砖及佛像砖上的铭文记载，于宋治平四年（1067年）、明洪武二十九年（1396年）、明嘉靖三十三年（1554年）、明万历五年（1577年）、明万历六年（1578年）、清康熙七年（1668年）、清乾隆三十八年（1773年），进行过多次修葺。以明洪武二十九年修葺工程为最大。因为洪水的淹没，铁塔的基座仍埋地下。据清初记载："塔下有八棱方池，垫为平地"，"城东铁塔之根，刨土直下丈余始见故址"。

1938年，日军入侵中原，围困开封城时用大炮向塔身袭击数百发，从第四层到第十三层各级檐角及塔壁均有损坏，第八、九层尤为严重，塔顶宝瓶遭飞机袭击中弹60余发，到建国前夕，铁塔满身创伤。

中华人民共和国成立后，1954年由文化部拨专款21万元，对铁塔进行全面整修。铁塔的面砖构件，由宋代磁州窑的故地河北邯郸彭城日用陶瓷厂烧制，于1957年6月11日动工，修复了全部损坏部分，配齐了104个风铃，塔顶新设了避雷针，每层洞门加设护栏。第一层磴道修整后，两旁添置了扶手和安装了照明灯。整个工程于此年10月竣工，并将附近原森林公园连在一起，开辟为铁塔公园。

公园大门为三楼四柱牌坊，坐东面西，梁柱为仿汉白玉砼，南北宽70米，高12米，中心牌坊两侧墙壁镶嵌青石佛像8尊，大门建成于1989年。

自大门入内，迎面有一巨形石碑，碑高5米，长4．5米，碑南北放置，南端为龙首装饰，碑镌"天下第一塔"5字，摹自米芾手迹，碑建于1993年。

"天下第一塔"石碑北侧，是建于1994年的一组古建，占地40余亩，院内集山、水、园林建筑于一体，院名福胜院，有盆景600余盆，是省内盆景数量和品种最多的盆景苑。