夏商时代:属徐州，称“人方东夷”“人方国”“隅夷”。

西周时代:属青州(一说兖州)，称“人方国东夷”。

春秋战国时期:先属鲁后楚，叫“郯子国”。

秦代称东海郡，辖朐县、郯城、兰陵、襄贲、缯、下邳、淮阴、盱眙、东阳、 堂邑、广陵、凌12个县。

西汉时称东海郡，属徐州刺史部。辖朐县、郯城、兰陵、襄贲、缯、良城、下邳、平曲、戚、开阳、临沂、利城、海西、兰祺、南城、山乡、即邱、祝祺、费、厚丘、容邱、东安、合乡、丞、建阳、曲阳、司吾、于乡、都阳、阴平、?吾乡、武阳、新阳、建凌、昌虑、都平、建乡、平曲38个县。

东汉时期称东海郡，隶属于徐州刺史部。辖朐县、郯城、兰陵、襄贲、戚、利城、祝祺、承、厚丘、合乡、昌虑、赣榆、阴平13个县。

三国时期称东海国，属魏。辖朐县、郯城、兰陵、襄贲、戚、利城、祝祺、承、厚邱、昌虑、合城11个县。

西晋时期称东海郡，隶属于徐州。辖朐县、郯城、兰陵、襄贲、戚、利城、祝祺、承、厚邱、昌虑、合乡、赣榆12个县。

东晋时期称东海郡，隶属于后赵、前燕、南燕、东晋。辖朐县、郯城、利城、襄贲、祝祺、厚邱、赣榆7个县。

南朝前期称东海郡，辖齐郡、东莞、琅玡、西海、东海、北海郡;南朝后期辖青州、冀州(侨置)辖地同上。

南朝齐、梁称:(一)东莞郡、琅玡郡，辖即丘、南东莞、北东莞3个县;(二)北东海郡，辖襄贲、僮、下邳、厚丘、曲城5个县;(三)北海郡，辖都昌、广饶、赣榆、胶东、剧、下密、平寿7个县;(四)齐郡。辖临淄、齐安、宿豫、尉氏、平虑、昌国、益都、西安、泰9个县。

北朝东魏称琅玡郡(又称海州朐县)。(一)东彭城郡，辖龙沮、安东、勃海3个县。(二)东海郡，辖赣榆、安流、广饶、下密4个县;(三)海西郡，辖襄贲、海西、临海3个县;(四)沭阳郡，辖下邳、临渣、怀文、服武4个县;(五)琅玡郡，辖朐、海安、山宁3个县;(六)武陵郡，辖上鲜、浴安2个县。

北齐北周称海州。(一)东海郡，辖广饶、东海2个县。(二)朐山郡，辖朐山县;(三)武陵郡，辖上鲜、洛安2个县;(四)沭阳郡，辖沭阳县;(五)海安郡，辖襄贲县。

隋朝称海州，后称东海郡。辖朐山、东海、涟水、沭阳、怀仁5个县。

唐朝隶属于河南道。先称海州总管府，后称海州，又称东海郡。辖朐山、东海、沭阳、怀仁4个县。

五代时属吴、南唐、后周，称海州，辖朐山、东海、沭阳、怀仁4个县。

宋明帝泰豫元年(西元472)于郁洲岛(连云港东部)立青州、冀州，是为连云港独立设州郡之始。青州领齐、北海、西海三郡，其中齐郡辖临淄、华城、齐安、西安、宿豫、尉氏、平虏、昌国、泰、益都十县，北海领郁、广饶、赣榆、胶东、剧、下密、平寿七县，西海辖县不详，冀州无实领土，共计十七县，相当于今连云港市连云区和新浦区东部。同年，徐州移治朐县(今连云港市海州区)，领东海郡，辖襄贲、僮、下邳、厚丘、曲城五县，相当于今新浦区西部、海州区、赣榆县南部、沭阳县、新沂县、涟水县、灌云县、灌南县、淮安市淮阴区。

宋后废帝元徽元年(西元473)，徐州移治新昌(今安徽省滁州市)，而所辖淮北领土不改。

齐高帝建元元年(西元479)，东海郡转属冀州，改名北东海郡，领土不变，同时，青州无西海郡，改辖东莞琅邪二郡，领即丘、北东莞二县，此时连云港东西两部分才合一，作为一个完整的行政区，辖现连云区、新浦区、海州区、赣榆县南部、东海县、灌云县、灌南县、沭阳县、新沂市、涟水县、淮安市淮阴区。同年，北海郡郁县易名都昌县。

齐武帝永明元年(西元483)，废齐郡齐安县。

齐武帝永明二年(西元484)，青州齐郡移治瓜步(今南京市六合县)，同时废华城县入临淄县，青州因此增领今南京市六合地区。

梁武帝天监十年(西元512)之后，多析置州县，青冀二州分为东彭城、北海、东海、僮阳、琅邪、北谯、齐、武陵八郡，其中东彭城郡辖龙沮(梁武帝置)、彭城(梁武帝置)、清河(梁武帝置)三县，北海郡辖赣榆、都昌(梁武帝置)、广饶(齐武帝置)、下密(梁武帝置)四县，东海郡辖襄贲、临海(梁武帝置)二县，僮阳郡辖县不详，琅邪郡辖海安(梁武帝置)、招远(原朐县，梁武帝改名)二县，北谯郡辖县不详，齐郡辖县不详，武陵郡辖高密县，共计十二县。

北魏宣武帝延昌二年(西元513)，青、冀二州为北魏所占，仍领东彭城、北海、东海、僮阳、琅邪、北谯、齐、武陵八郡，从历史记载来看，梁仍有青、冀二州，所辖地域不详。

东魏孝静帝武定七年(西元551)，青、冀二州改名海州，辖东彭城、东海、海西、沭阳、琅邪、武陵六郡，其中东彭城郡辖龙沮、安乐(彭城县改)、渤海(清河县改)三县，东海郡辖赣榆、安流(都昌县改)、广饶、下密四县，海西郡辖襄贲、海西(分襄贲县置)、临海三县，沭阳郡辖下城(新置)、临渣(新置)、怀文(新置)、服武(新置)四县，琅邪郡辖海安、朐(招远县改)，山宁(北谯郡改)三县，武陵郡辖上鲜(齐郡改)、洛要(高密县改)二县，共计十九县，相当于今连云区、新浦区、海州区、赣榆县南部、东海县、灌云县、灌南县、沭阳县、涟水县。

北齐(550-574)分东海郡广饶县置东海县。

陈宣帝太建五年(西元574)，陈收复海州。

陈宣帝太建十一年(西元580)，海州为北周所占，改琅邪郡为朐山郡，朐县为朐山县。

隋文帝开皇三年(西元583)废郡，同时废原南青州义塘郡为怀仁县，并入海州，至此，赣榆县北部始归入连云港地区。此时，海州辖朐山、广饶、涟水、沭阳、怀仁五县，相当于今连云区、新浦区、海州区、赣榆县、东海县、灌云县、灌南县、沭阳县、涟水县。

隋文帝仁寿元年(西元601)，改广饶为东海县。

隋炀帝大业三年(西元607)，改州为郡，海州改为东海郡。

唐高祖武德四年(西元622)，海州置总管府，领海、涟、环、东楚四州，海州领朐山、龙沮(新置)、新乐(新置)、曲阳(新置)、沭阳、厚丘(新置)、怀仁、利城(新置)八县，涟州辖涟水、金城(分涟水县置)二县，环州辖东海、青山、石城、赣榆四县，东楚州辖山阳、安宜、盐城三县，共计十七县，相当于今连云港市区、赣榆县、东海县、灌云县、灌南县、沭阳县、涟水县、阜宁县西部、盐城市区、建湖县、盐都县、淮安市区、淮安市淮阴区、楚州区、洪泽县、金湖县、宝应县。是为连云港领域较大时期。

唐高祖武德六年(西元624)，改海州新乐县为祝其县。

唐高祖武德七年(西元625)，改总管府为都督府，海州总管府改为海州都督府，同时东楚州改属扬州都督，而以沂州来属，沂州辖费、临沂、颛臾三县，此时海州总管仍辖四州十七县，相当于今、涟水县、山东省临沂市区、费县、平邑县、临沭县、莒南县。这也是连云港领域较大时期。

唐高祖武德八年(西元626)，废龙沮、曲阳县入朐山县，利城、祝其县入怀仁县，厚丘县入沭阳县，又废环州为东海县，此时海州都督府辖海、涟、沂三州九县。

唐高祖武德九年(西元627)，废涟州为涟水县，改属泗州。

唐太宗贞观元年(西元627)，罢都督府，分天下为十道，海州属河南道。此时，海州辖朐山、沭阳、怀仁、东海四县，相当于今连云港市区、赣榆县、东海县、灌云县、灌南县、沭阳县。

唐高宗总章元年(西元668)，沭阳县改属泗州。  

唐高宗咸亨五年(西元674)，沭阳县复属海州。

唐玄宗天宝元年(西元742)，改州为郡，海州改为东海郡。

唐肃宗乾元元年(西元758)，改郡为州，东海郡复改为海州。

唐昭宗光化二年(西元899年)，海州入吴国。

南唐元宗保大十三年(西元959)，为后周所占。

宋太宗至道三年(西元998)，分天下为十五路，海州属淮南路。

宋神宗熙宁五年(西元1073)，分淮南路为淮南东、西路，海州属淮南东路。

宋高宗建炎年间(1127-1131)，海州为金侵占。

宋高宗绍兴三十一年(西元1162)，海州复归南宋。

宋孝宗隆兴年间(1163-1165)，海州再割让金国。

宋宁宗嘉定十二年(西元1220)，海州再归南宋。

宋理宗端平二年(西元1235)，海州徙治东海县。

宋理宗淳佑十二年(西元1253)，海州复治朐山县。

宋理宗景定二年(西元1262)，海州改为西海州。

宋恭帝德佑元年(西元1275)，西海州为元所占，复改为海州。

元世祖至元十五年(西元1279)，升为海州路总管府，领朐山、沭阳、赣榆(怀仁县改)、东海县及录事司。后改为海宁府。

元世祖至元二十年(西元1284)，海宁府改为海宁州，录事司与东海县均并入朐山县。海宁州改属淮安府路。

元世祖至元二十八年(西元1292)，设立河南江北等处行中书省。海宁州属河南江北行中书省淮东道宣慰司江北淮东道肃政廉访司淮安路。

元顺帝至正二十七年(西元1367)，海宁州归吴，属江南行中书省。

明太祖洪武元年(西元1368)，海宁州复改名海州，属淮安府，废朐山县，沭阳县直属淮安府。海州至此保有州治和赣榆县，从唐贞观元年(西元627)以来的局面从此被打破，相当于今天连云港市区、赣榆县、东海县、灌云县、灌南县，是连云港局域最小时期。同年，废江南行中书省，海州属中书省淮安府。

明太祖洪武十三年(西元1381)，废行中书省，淮安府归六部直辖。

明成祖永乐元年(西元1403)，海州仍属南京淮安府。

明思宗崇祯十七年(西元1644)，海州为满清侵占。

清顺治二年(西元1645)，设江南省，属江南省淮安府。

清康熙元年(西元1662)，从江南省分出安徽省，海州属安徽省淮安府。

清康熙五年(西元1662)，淮安府复归江南省。

清康熙六年(西元1662)，江南省改名江苏省，海州属江苏省淮安府。

清雍正二年(西元1724)，海州升为直隶州，统州治和赣榆、沭阳二县，脱离淮安府管辖，恢复唐初以来的局面。相当于今连云港市区、赣榆县、东海县、沭阳县、灌云县、灌南县、响水县。

民国元年(西元1912)海州直隶州被废，东海县分成东海和灌云两县;

1935年由东海、灌云各划出一部分成立连云市，区域:临洪口以南，烧香河以北，东至东西连岛，西沿临洪河新浦、板浦以东为范围。为江苏省第三个省辖市和全国较早的省辖市。民国时期实行市县平级政策。

1946年4月1日，连云市第一任市长张振汉到任。(因爆发抗战，连云市筹备被迫中止，故1946年才出现市长)

中华人民共和国成立后，属山东鲁中南行署。先称新海连特区后称新海连市，辖新海市、连云市、云台办事处(后又分前云台区、后云台区)两市一区。新海连市时，辖新华区、民主区、锦屏区、浦西区、云台区、连云区等7个区。1953年1月1日起划入江苏省，归徐州专署管辖，1961年新海连市更名为连云港市，1962年为江苏省直辖市。1983年国家地市体改时，江苏省将原徐州地区的赣榆、东海、灌云3 县划归连云港市;1996年江苏省又将灌南县划归连云港市，辖四县四区。2001年行政区划调整撤销云台区，辖东海县、赣榆县、灌云县、灌南县、新浦区、海州区、连云区、国家级经济技术开发区。2014年5月，经国务院批准，撤销赣榆县，设立连云港市赣榆区;撤销新浦区、海州区，设立新的连云港市海州区。截止2014年6月，连云港下辖3个市辖区、3个县级行政区:海州区、连云区、赣榆区、灌南县、东海县、灌云县，市人民政府驻海州区朝阳东路69号。