在西夏建国以前，黑水城一带就已有大量居民，在这里耕耘牧猎、繁衍生息。西夏建国后，为了加强这一地区的管理，以防东面辽国和漠北蒙古的侵入，西夏王朝曾先后调集两个统军司来驻守黑水城及整个居延地区。并将大批人口迁到黑水城一带定居，让他们在当地屯垦造田、生产粮食，以满足大批军民的生活需要.

到西夏鼎盛时期时，黑水城已不再是一座单纯的军事城堡，逐渐变成一座经济、文化都较为发达的繁荣城市。当时的黑水城内，官署、民居、店铺、驿站、佛教寺院以及印制佛经、制作工具的各种作坊布满了城区，一派繁荣昌盛的景象。这种情况大约持续了近200年之久。

公元1226年，北方“蒙古汗国”的成吉思汗率领大军征伐西夏，首先攻克了黑水城，并由此南下，直取西夏的国都中兴府，次年，西夏灭亡。元朝建立后，黑水城依然沿用。而且受到元朝统治者的重视。当时这一地区划归甘肃行省，称“亦集乃路”元朝在这里设置了亦集乃路总管府，管辖这一地区及西宁、山丹两州。

由于黑水城是漠北通往内地的重要交通枢纽，元朝统治者不仅派