夏时康境为《禹贡》雍州之域，

商、周为氐人住地。察代康属秦辖白马氐部族住地。

东周战国时期属苴国境内(周烈王姬喜八年,前368年开明氏蜀国灭"昔阝"、"平周"二国后封其弟为汉中侯置藩属苴国，定国都吐费城)。

周慎靓王姬定六年,前316年，秦惠王嬴驷派张仪、张若、司马错率队走石牛道(今剑阁金牛道、剑阁道)灭蜀吞苴，置蜀郡，分其地为三十一县，康县时属蜀郡葭萌县(县治今昭化区石盘村)境内。

西汉武帝元鼎六年(公元前111年)，置武都郡，康地属之。郡治洛谷(今西和县洛峪)。

东汉光武中元元年(公元56年)，武都郡由益州刺史部改隶凉州刺史部，郡治移下辨。康地为武都郡之一部。

三国魏文帝分陇右为秦州，武都郡属秦州。

蜀汉建兴七年(229年)蜀取武都、阴平二郡归并于蜀。魏景元四年(263年)，魏将邓艾率兵南下，攻灭蜀汉后，以原蜀汉辖地分梁、益二州，武都郡入梁州，郡治依旧。

西晋郡属多变，但康境一直属武都郡。

东晋从304年到420年，割据纷起。西晋元康六年(296年)，氐人杨茂搜建立仇池国后，康随武都郡入仇池国。咸安元年(371年)前秦克仇池，设南秦州，置刘史，武都郡属之。

南北朝康地曾先后隶属南朝宋、北魏、西魏和北周。宋文帝元嘉十九年(442年)平仇池，武都郡入宋辖南秦州。

北魏始置"平乐县"，境初属梁州修城郡，太平真君七年(446年)改属南秦州修武郡。魏孝文帝太和二十一年(497年)复置修城郡，郡治广长，康地分属修城郡所辖平落、广长等县。

西魏文帝大统十二年(546年)后，康境改属南秦州修城郡。废帝元年(552年)改武都郡为武州，治武都石门。废帝三年(554年)又改南秦州为成州，康境随属成州修城郡之广长、平落等县。建德元年(672年)废修城郡并入武州，隶属北周，康境随入属之。

隋开皇元年(581年)武都郡改为武都县，康属之。大业三年(607年)后，今康县迷坝、大南峪、王坝乡之一部属顺政郡，余属武都郡。

唐武德元年(618年)改武都郡为武州，康随覆津县属武州。天宝元年(742年)复改武州为武都郡。乾元元年(758年)又还为武州。广德二年(764年)被吐蕃攻占，州、县俱废。咸通年间收复，康仍属武州覆津县。唐昭宗景福元年(892年)，武州改名为阶州，治所移迁兰皋镇(今康县大南峪)。

五代十国后梁贞明元年(915年)，阶州入前蜀，州治兰皋镇。