据司马迁《史记》记载，在公元前110年时，汉武帝带领文武百官前往泰山封禅。原文称：“东上泰山，泰山之草木叶未生，乃令人上石立之泰山巅”。意思是说，汉武帝在登临泰山之后，发现泰山顶上居然草木不生，于是命人竖立一块石碑在此，以表达对泰山神的敬畏之情。清代学者顾炎武，曾对这座石碑进行过查考，并在著作《山东考古志补录》中认定，该石碑确系汉武帝所立，并且还是一块无字石碑。正因如此，该石碑也被认为是历史上“第一块无字碑”。
无独有偶，中国唯一一位女皇帝武则天，在去世之后，也曾于乾陵立下一尊无字石碑。《雍州金石记》曾记载：“碑侧镌龙凤形，其面及阴俱无字”，对武则天所立无字石碑，进行了较为详细的描述。直到今天，无字碑仍然矗立在乾陵之中，现存无字碑高度7.53米、宽度2.1米、厚度为1.49米，堪称是乾陵墓园中标志性的建筑物。
后人对于武则天的评价褒贬不一，有学者认为，武则天之所以立下无字碑，只是因为她不知该如何评价自己的一生，转而留给子孙后代们执笔，反映了这位女皇极其矛盾的心理。
不过有趣的，除了以上两块著名的无字碑外，还有一块默默无闻的无字碑，一直立于荒郊旷野，很少进入人们的视线，这块石碑正是罗通山无字碑。罗通山城位于吉林省柳河县境内，此处是吉林地区著名的文化古迹遗址，同时也是游客们争相观光的旅游胜地。罗通山山体特殊，如刀砍斧劈的峭壁悬崖到处都是，置身其中时，犹如进入天门一般。
罗通山无字石碑，正好位于通往罗通山主峰处烽火台的途中，它是一块近2米宽、11米高的天然独石，兀自插于岩崖之上，显得尤为引人注目。更加值得让人称奇的是，在这块无字碑的缝隙之内，居然生长着一棵石榆树，它孤傲挺拔，似乎并不畏惧一切困难。“寸土未沾，滴水难近”，可是这棵石榆树依然坚强地活着，不免令观者感叹自然之力的神奇。
