夏商时境内为西戎地。

周代时为秦国的发源地。

公元前279年(秦昭襄王二十八年)，秦设陇西郡，郡治狄道(甘肃临洮)，张 

张家川家川县属陇西郡。

西汉沿袭秦制，实行郡县二级制。

汉武帝元鼎三年(公元前114年)，置天水郡，辖16县，其中陇县(治张家川县城)在县境。武帝元封五年(公元前106年)，置监察性质的刺史部13州，陇县属凉州刺史部天水郡辖。

东汉光武帝建武十八年(公元42年)，改王莽所置州牧为刺史，凉州刺史部驻陇县(张家川县城)。明帝永平十七年(公元74年)，天水郡改称汉阳郡，辖13县，撤清水、戎邑道并入陇县。灵帝中平五年(公元188年)，凉州刺史部由陇县迁冀县(甘谷)。

三国魏实行州、郡、县三级制。三国初，魏复置清水县，撤陇县并入清水县。属广魏郡。之后张家川再未置县，县大部属清水县、秦安县辖。

金太宗天会八年(公元1130年)，张家川县分属秦州之冶坊(治清水县黄门乡)、陇城(治秦安县陇城乡)二县。

元世祖至元七年(公元1270年)，撤陇城县并入秦安县，撤冶坊并入清水县。张家川县分属秦州之清水、秦安两县辖。明清时，张家川大部仍属秦州之清水县、秦安县辖。

民国二年(公元1913年)3月，推行省、县两级制，暂存道制。张家川县大部分属甘肃省陇南道之清水、秦安两县辖。民国24年(公元1935年)，甘肃省设立行政督察区，张家川县大部属省第四行政督察区之清水、秦安县辖。

1949年10月1日中华人民共和国成立后，张家川县分属天水分区行政督察区之清水、秦安县辖。

1951年4月，天水分区行政督察区改称天水区。

1953年7月6日，析清水、秦安、庄浪、陕西陇县37乡合并成立张家川回族自治区(1955年6月改称县)，属天水区。

1958年12月，张家川回族自治县、清水县合并，置清水回族自治县。

1961年12月，张家川回族自治县、清水县分设。

1969年10月至2006年，张家川回族自治县先后属天水专区、天水地区、天水市管辖。

1953年7月6日，张家川回族自治区成立，以清水县北部的张家川、木河、宣化、恭门4区的1镇25乡，秦安县龙山区的龙山、北河、连五、高庙、天宁、赵坡乡，陇城区的五方乡，庄浪县金锁区的清真乡和新陇区石桥乡的张棉驿等村以及陕西省陇县马鹿区的马鹿、长宁驿、宝坪乡为张家川回族自治区的行政区域;时，自治区设6区1镇37乡。7月20日又增设17个乡，全区共辖6区1镇54乡。