据说，此塔为元世祖忽必烈亲自勘查选址后敕令建造。设计建造者为尼泊尔工艺家阿尼哥。很难想象，在当时的元朝都城建造佛塔，会让一位尼泊尔人来主持建造。原来，这位阿尼哥早在元朝初年（1260年）就应大元帝师八思巴之聘，带领80名工匠来到了元大都。据说，阿尼哥入仕元朝40年，参与了当时京城很多庙宇的建造。妙应寺白塔就是其中一座。

从1271年开始建，到1279年才建成，前后历时8年。完工后，元世祖忽必烈下令以塔为中心向四方射箭圈地，建成一座寺院，名为万安寺，是一座藏传佛教寺院。也就是说，围绕白塔建成的寺院还是一座皇家寺院，皇帝即位、郊庙建成等，文武百官都要在这里习仪演礼。据说这里还是蒙汉佛经等书籍的译印中心。可惜到了元至正二十八年（1368年）寺院遭雷火焚烧，唯白塔尚存。直到元朝灭亡也未重建。

到了明朝天顺元年（1457年）重建寺院，此时明英宗朱祁镇对藏传佛教远远不如元朝重视，故新修的寺庙不但格局按照汉传佛教修建，寺庙的占地仅1.3万平方米，改名为“妙应寺”，俗称“白塔寺”。

在元大都建一座藏传佛教寺院，皇帝亲自勘查选址，建造过程中密切关注，建造后还一直当作重要地方。这座寺庙与白塔的地位可见一斑。

清朝康熙年间，白塔寺是京城五大庙会之一，每逢初五、初六便会成为京城老百姓游玩和休憩之所。清末民初，寺内香火不旺，僧人便出租部分寺产，吸引来了三百六十行，来此赶庙会。寺院内地方宽敞，是搭台唱戏的最佳场所，20世纪三四十年代许多民间艺人在此表演，如张秀峰（艺名“小蜜蜂”）的滑稽大鼓、阿阔群的评书等，都是庙会的亮点。