阿勒泰市是蒙语，黄金之意。因阿尔泰山盛产黄金，阿勒泰市在阿尔泰山之阳，因而依山得名。
阿勒泰市，自古以来先后有塞种、匈奴、鲜卑、柔然、突厥、蒙古、哈萨克等游牧民族自此繁衍生息。
汉朝为西域都护府辖地，继塞种人之后有匈奴，鲜卑游牧于此。
唐朝为北庭都护府辖地，先后为柔然、突厥游牧地。
宋朝为蒙古游牧地，窝阔台汗国、察合台汗国辖境。
元朝为岭北行省辖境。
明朝为瓦刺汗国辖境，蒙克帖木儿的封地。
清乾隆十九年(1754年)，为乌里雅苏台定边左副将军治下的科布多赞大臣管辖，阿尔泰乌梁海七旗封地的阿尔泰乌梁海左翼旗和左翼后旗地。
清同治六年(1867年)，交布伦托海办事大臣管辖，同治八年(1869年)，布伦托海办事大臣被裁撒，仍归科布多赞大臣管理。
同治十年(1871年)塔尔巴哈台带兵大喇嘛棍噶扎拉参借地安置其部众及塔尔巴哈台来的难民.在现阿勒泰市解放北路市三中附近修建千佛寺，后称承化寺，自此为其借地。
光绪十五年(1889年)，棍噶扎拉参率部众迁居八音沟(现乌苏县境)以后，仍由科布多参赞大臣管理。
光绪三十二年(1906年)，科布多、阿勒泰分治，设阿尔泰办事大臣管理阿尔泰地区，治所在承化寺。是其辖境。
1912年，改阿尔泰办事大臣为阿尔泰办事长官，直隶北京中央政府管辖。治所仍在承化寺，是其辖境。
1913年始设承化寺县佐，隶属阿尔泰办事长官公署。
1919年撤阿尔泰办事长官公署，改置阿山道。划归新疆省管辖，治所仍在承化寺。
1921年改承化县佐为承化县，自此始设县治，治所在承化寺，仍隶属阿山道。
1922年改阿山道为阿山行政长官公署，承化县为其所辖。
1943年改阿山行政长公署为阿山行政督察专员公署，承化县为其所辖。
1945年三区革命后，承化县为三区政府阿山区所辖。