天水在夏、商时期属雍州，周孝王十二年(公元前九世纪)赢非子在秦池(今张家川县城南一带)为王室养马有功被封于秦，号赢秦。秦即后世的秦亭，是今天水市辖区见于史籍的最早地名。
秦武公十年(前688年)，秦灭圭阝戎、冀戎，置圭阝(今天水市城区)、冀(今甘谷县东)二县，这是中国历史上设置最早的两个县级建置。秦昭王二十八年(279年)，设陇西郡。郡县制在今辖区确立。
西汉武帝元鼎三年(前114年)，从陇西、北地二郡析置天水郡。从此有“天水”的名称。
三国魏文帝黄初元年(220年)，一度设秦州。因秦邑而得名，从此有“秦州”的名称。
西晋始，实行州郡县三级制。晋武帝泰始五年(269年)秦州正式设立，今辖大部分由秦州天水郡辖。南北朝因亡。
隋唐时，实行州县二级制，秦州地域缩小，地域和今辖区大体相当。元代，秦州辖成纪、秦安、清水3县。
明代，秦州辖秦安、清水、礼县3县。清雍正七年(1729年)，秦州升为直隶州，直隶甘肃省，辖秦安、清水、两当、徽县、礼县5县。
民国2年(1913年)，2月，北洋政府推行省、县二级制，暂存道制。巩秦阶道改称陇南道。撤秦州设天水县。民国3年1月，宁远县改称武山县。6月，陇南道改称渭川道，辖14县。民国16年(1927年)7月，渭川道改称渭川行政区。不久，撤销行政芪 ，实行纯粹的省县二级制。民国18年(1929年)，伏羌县改名甘谷县。民国23年(1934年)，甘肃省政府设立天水行政督察区。次年，改称甘肃省第四行政督察区，辖10县。
1949年8月3日，天水县解放。8月15日，天水分区行政督察区成立。同年12月，天水分区改称天水专区。1950年2月，析天水县置天水市，以城区为天水市的行政区域。
1953年7月6日，将清水、秦安、庄浪、陇县38乡合并成立张家川回族自治区(1955年10月改称县)，属天水专区。1958年4月8日，撤销武都专区，并入天水专区。1961年11月5日，恢复武都专区。
1969年10月1日，天水专区改称天水地区。(时辖天水市、天水县、甘谷县、武山县、清水县、张川县、秦安县、徽县、两当县、礼县、漳县等1市11县)。
1985年7月8日，国务院批准，撤销天水地区，实行市管县体制。天水市升为地级市。撤销天水县、将其行政区域并入天水市。天水市设立秦城、北道两区。以天水县西南17乡及原天水市(县级)辖区设秦城区，以天水县东南、西北其余22乡和北道镇设北道区。天水市人民政府驻秦城区。将原天水地区的徽县、两当、西和、礼县划归新成立的陇南地区;漳县划归定西地区。天水市辖两区五县;即秦城、北道两区，秦安、清水、张家川、甘谷、武山等5县。
经国务院批准，从2005年1月1日起, 秦城、北道两区 更名为秦州区和麦积区。
