任皇甫嵩为左车骑将军，领冀州牧，并晋封他为槐里侯，食槐里、美阳两县，共八千户。
平定黄巾起义之后，皇甫嵩奏请冀州一年田租，用以赡养饥民，献帝许之。史载百姓作歌说：“天下大乱兮市为墟，母不保子兮妻失夫，赖得皇甫兮复安居”(《后汉书·皇甫嵩列传》)。
皇甫嵩镇压黄巾，威震天下，但当时朝政日非，海内空虚。汉阳人阎中劝他把握机会，南面称制。皇甫嵩不用其计。
当时，湟中(今甘肃湟原)胡人北宫伯玉和先零羌起事，共拥边章、韩遂为帅，攻杀护羌校尉泠徵、金城太守陈懿。第二年(185年)，北宫伯玉等人侵三辅，朝廷诏令皇甫嵩回镇长安，保卫园陵。
当初皇甫嵩征讨张角时，途经邺地，发现中常侍赵忠住宅超过了规定，便上奏皇帝予以没收。另外，中常侍张让向他索要五千万钱，他不肯给。于是赵忠和张让联起手来，劾奏皇甫嵩连战无功，耗费钱粮。灵帝听信谗言，召回皇甫嵩，收回他的左车骑将军印绶，削夺封户六千。改封都乡侯，食二千户。
中平五年(188年)十一月，凉州人王国包围陈仓(今陕西宝鸡东)，灵帝用人之际，又任命皇甫嵩为左将军，督率前将军董卓，各率二万士兵拒敌。董卓提出迅速进赴陈仓，他说：“智者不后时，勇者不留决。速救则城全，
不救则城灭，全灭之埶，在于此也。”皇甫嵩却说：“不然。百战百胜，不如不战而屈人之兵。是以先为不可胜，以待敌之可胜。不可胜在我，可胜在彼。
彼守不足，我攻有余。有余者动于九天之上，不足者陷于九地之下。今陈仓虽小，城守固备，非九地之陷也。王国虽强，而攻我之所不救，非九天之埶
也。夫埶非九天，攻者受害；陷非九地，守者不拔。国今已陷受害之地，而陈仓保不拔之城，我可不烦兵动觽，而取全胜之功，将何救焉”(《后汉书·皇甫嵩列传》)！没有采纳董卓的建议。
王国率兵围攻陈仓，从冬到春，围了八十多天，但由于