古淮浦城，最迟建于西汉末年，城址位于今城西12公里的悦来集附近，大约在东汉末年至南北朝初圮废。旧志记载的古月城，实为用以屏蔽古淮浦城城门的半圆形小城。
       金城，约在南北朝时建，它的遗址在今城北15公里的金城庵附近。
       涟城，五代十国时南唐元宗保大十四年(956)，涟州刺史秦崇进为抵抗北周的进攻，曾在涟水“修城”(该城是始修还是重修，待考)，这个城的旧址即为今涟城所在地。南宋时，涟水有3城：“大城、东城相连，止隔一濠，又有西城颇远，百余步。城各有濠。”宋理宗嘉熙四年(1240)，知涟水军事萧均曾。修浚城濠”。元初，由于兵燹和水患，“三城”渐圮，濠渐淤垫，成为居民区。
        明弘治十五年(1502)，知县郭韶在旧基上筑土圩建更楼4座，设门启闭，“东曰滨海，南曰观澜，西曰临淮，北曰镇涟”。嘉靖三十二年(1553)，黄河决草湾口时，洪水直冲城垣，平地水深丈余，房屋倾颓。万历八年（1580)，知县史选于城南筑堤挡水。二十六年(1598)，知县詹应溥因堤增筑土城。天启元年(1621)，知县刘君聘筹资筑砖城，五年(1625)三月动工。新建的砖城，高两丈四尺，周长一千五百五十四丈，东西径三里七，南北径二里二，筑城费银2．68万两，民与商各输其半。新城设门4个，南曰迎和，西曰临淮，北曰镇涟，东曰朝阳。又于北门之西，辟小便门，西南复辟民便门。又设一处水关，方便商贸。新城外凿渠四绕，以为城固，筑埂堰以环城，峻土堤以防城。
        康熙七年(1668)，因洪水、地震，城墙倾圮。康熙二十五年(1686)，知县许同文提议重修新城，因工费没有着落而议止。乾隆五十一年(1786)后，又重新修葺。同治元年(1862)，知县宋传燧于城外加筑土圩。
民国期间，涟水战事频繁，城墙部分被毁。
        建国后，随着工业、商业的发展，建筑、交通的需要，城墙相继被拆除。