1954年，朝鲜战争的硝烟尚未完全散去，美国就有意筹组包含台湾在内的东南亚条约组织（SEATO），建立一个反共的军事集团。而台湾在美国的支持下不时侦照与轰炸大陆沿海，并劫夺外商船只导致大陆外贸颇受干扰，尤其1954年6月苏联油轮图阿普斯号遭台湾掠夺的事件最震撼国际。因此为了打破美台签署军事条约进而扩大对沿海的封锁范围、以及阻止“两个中国”的国际舆论，解放军于1954年9月3日向金门发起炮战。
不过由于解放军当时尚未完全掌握闽浙制空权，福建鹰厦铁路也未修建，因此对金门的炮击更多是威吓性，身为开国上将的福建省委书记叶飞就坦言过：“不修鹰厦铁路不行，否则根本无法解决金门问题，空军也无法进驻福建前线”。因此彼时中共制定的战略是“从小到大，由北向南，逐岛进攻”，没打算当真登陆“解放”金门。不过那场炮战仍造成两岸一定死伤，且根据金门防卫司令官刘玉章的回忆，至少有两名美军顾问阵亡。
解放军的轰击未能阻止台湾与美国于1954年12月签订《中美共同防御条约》，但攻占浙江沿海岛屿的步伐也未停下。1955年解放军相继夺下一江山与大陈列岛后，对蒋介石政府的心理打击颇不小，且美国拒绝让防御条约适用于闽浙岛屿，还不时力主台军放弃金门、马祖，这让中共察觉美国对蒋介石的协防意志有所局限，遂紧锣密鼓地筹划下一波军事行动。
1958年1月，叶飞、福州军区司令员韩先楚和空军司令员刘亚楼等人，向军委报告空军进驻福建的事宜，并提到“如果我们抓住金门、马祖这两条小辫子，估计经过几个月的斗争后，蒋介石可能为了保存金马的十一万兵力而停止对福建地区的轰炸”，这就替即将到来的炮战定了基本旋律。最后军委拍板决定炮轰金门、但不登陆作战，希冀借此迫使台军自动撤退。为了眩惑国际视听，1958年苏联赫鲁晓夫于7月至8月初访华后不久，解放军便大肆炮击，这令美国怀疑中共是否得了苏联的暗助。
