黑将军损兵折将屡战屡败，不得不退回黑水城。中原的将军一路追杀，最后追到了黑水城外屯兵围城。根据守城判卒的口供，中原将军在上游截断了通往黑城的弱水，绝其水源。没多久，城中储水耗尽，士兵饥渴难耐只好打井求水，可一直挖到八十多丈还是滴水不见。黑将军心知已成败局，决定拼上一场。一个月黑风高夜，他把城内所存的八十余车金银连同珍宝全部倒入一口枯井，未免妻儿受辱，又亲手杀死了妻妾和孩子。一切处理停当之后，黑将军便破墙打洞，率领士兵倾城出战，一番殊死拼杀，终因众寡悬殊全军覆没，黑将军自刎而死。黑水城沦陷后，中原将军带人大肆搜寻，未能找到宝藏。
这故事只是传说，黑将军是否真有其人不得而知，但黑水城的确存在。1226年，成吉思汗率领蒙古大军征伐西夏，首先攻破了黑水城，并由此南下，直取西夏国都中兴府。次年，西夏灭亡。元朝建立后，黑水城依然沿用，而且受到元朝统治者的重视，当时这一地区划归甘肃行省。1286年，元世祖在此设亦集乃路总管府。黑水城北走岭北、西抵新疆、南通河西、东往银川，是中原到漠北的必经之路。若干年后，马可波罗沿着这条古道，走进了东方天堂杭州。