效力后唐

后唐庄宗时为魏博军的一名小兵。同光四年（926年），庄宗刘皇后传教令给在蜀地的儿子魏王李继岌令其杀死同在蜀地的成德节度使侍中郭崇韬，不久庄宗又杀河中节度使尚书令朱友谦，魏博监军武德使史彦琼则奉命去杀朱友谦子澶州刺史朱建徽。史彦琼出城时没有说明所为何事，于是出现谣言称：郭崇韬在蜀地杀死李继岌自立为王，刘皇后为儿子之死迁怒庄宗而弑君，史彦琼出城是去与刘皇后议事。

其时，皇甫晖所属之部队戍守瓦桥关（今河北省雄县）期满，原应回魏州（今河北省大名县），行经贝州（今河北省南宫市），庄宗却担心魏州空虚，这支军队会生乱，命他们就地屯田，由于不能归乡的关系，军心大乱。

皇甫晖与同袍在夜间赌博大败，没钱付帐，突心生一计，趁此军心浮动之时机煽动士兵，士兵们兵变之后，就不会被追讨债务。皇甫晖拥立指挥使杨仁晸为首领：「主上有天下是我们魏博军的功劳，魏博军征战十多年，如今天下已定，天子不念旧劳，反而愈发猜忌我们了。我们远戍一年多，离家咫尺，却不让我们相见。现在听闻皇后弑逆，京师已乱，将士愿与公俱归，表闻朝廷。即使天子安泰，兴兵征讨，以我魏博兵力也足以拒之，怎知不是图富贵的资本？」军士们都呼应，仁晸不从，说：「您各位这样算计也太过分了罢！现在英明的君主在朝廷之上，天下像是一家，主上的精甲锐兵，不下数十万，各位也都有家属，怎么会讲出这么不祥的话？」皇甫晖斩之；又立一个裨将为首领，裨将不从，皇甫晖又斩之。偏将赵在礼越墙而走，被皇甫晖看见，皇甫晖把赵在礼从墙上拉下来，赵摔落地面，皇甫晖以伐取的杨仁晸、裨将两个首级来恐吓赵，赵立刻同意叛变，于是皇甫晖自称为「魏博马步军都指挥使」，立赵为大帅。

皇甫晖率兵攻入邺城，立赵在礼为留后，邺都留守王正言被迫迎接。皇甫晖大肆杀害民众，掳掠民财，到了一个民宅，听说屋主姓国。皇甫晖说：「我就是来破国的！」就把姓国的屋主全家杀了。又到了下一个民宅，听说屋主姓万。皇甫晖说：「我杀了『万家』就够了！」又把姓万的屋主灭门了。种种残暴类似于此。

庄宗派归德军节度使元行钦前往讨伐。元行钦攻邺都南门，以诏书诏谕，但史彦琼却大骂要破城将叛军碎尸万段，皇甫晖遂对士兵们说「投降也不会得到宽恕」，遂毁了诏书，不降。庄宗闻讯大怒，下令破城后屠城，发大军讨之，但元行钦始终不能破城。

庄宗又命李嗣源前往讨伐，嗣源及武宁军节度使霍彦威被军士张破败挟持，张破败意欲与魏博叛军合兵造反，但皇甫晖不接纳，反而斩杀张破败，城外乱军溃散，李嗣源、霍彦威等反被皇甫晖劫持。皇甫晖素忌霍彦威，想杀他，但霍彦威以口才说服了皇甫晖，免于一死。李嗣源以出城收拢旧部为由与霍彦威离开邺都后，李嗣源的女婿石敬瑭、部将康义诚告诉李嗣源，造反局势已成，后悔也势难免罪。嗣源只好占据汴州（今河南开封），进军洛邑。庄宗决定亲征，指挥使郭从谦发动兴教门之变，杀死庄宗。李嗣源进兵洛城而称帝，是为后唐明宗，封皇甫晖为陈州刺史。

效力后晋

后晋成立，皇甫晖继续为官，任卫将军，而赵在礼已为节度使，皇甫晖为人贪婪而暴虐，竟然趁赵在礼来朝，去恐吓官位比他高的赵在礼，说赵在礼的富贵是由自己而得，如不给钱，当下就要攻击赵，赵在礼畏惧，给了皇甫晖许多钱财，并摆设酒席相待，皇甫晖喝了酒拿了钱就走了，根本不拜谢赵在礼。后为密州刺史。

效力南唐

后晋遭到契丹人攻灭时，皇甫晖率州人逃奔南唐。南唐中主李璟派舟楫相迎。皇甫晖担心自己出身凶贼，不为所容，行经秦淮河，跳水自杀，被左右救起，自称如同踩著大石头。皇甫晖入南唐，被封为歙州刺史、神卫军都虞候、奉化节度使，加同平章事，镇江州。南唐保大六年（948年），后汉隐帝年幼，中原衰弱，淮北群盗多送款于李璟，李璟遣皇甫晖出海、泗诸州招纳。次年，蒙城镇将咸师朗投降皇甫晖，但徐州将成德钦在峒峿镇打败了皇甫晖，俘斩六百级，皇甫晖等回师。

保大十四年（956年），后周世宗柴荣攻淮南，皇甫晖被任为北面行营应援使，会合神武统军北面行营都部署刘彦贞、都监姚凤提兵十万前去迎敌。刘彦贞败死，皇甫晖、姚凤退保清流关。柴荣进兵寿州（今安徽省寿县），命大将赵匡胤（后来的宋太祖）攻清流关。皇甫晖先大败周军数千。后赵匡胤用赵普计，在皇甫晖等率部在山下列阵时，带著部队绕过山后，从后面偷袭南唐军，皇甫晖大败，且战且走逃入滁州，但滁州刺史王绍颜已弃城逃跑，皇甫晖断桥自守。周军涉水越城而入。皇甫晖逃亡失路，要求决斗，赵匡胤武艺甚高，笑而应允，奋马直前，一刀中皇甫晖脑部，砍落马下，姚凤一并被擒。

皇甫晖被送交世宗亲自审问，说：「臣疲惫了，想暂时坐下。」坐下后又说：「想暂时躺下。」不等命令就躺下，神色自若，仰头说：「我皇甫晖从贝州军伍起兵辅佐李嗣源，促成了唐庄宗之祸；后来率众投江南，位兼将相，前后南北二朝大小数十战从未失败。今天被擒，是上天褒奖大朝兴盛，也是南北两军的勇怯不相当。」很淡定地告诉世宗，后周部队极为勇猛顽强，比契丹人还优秀。世宗见了皇甫晖的伤势非常同情，赏赐金带、鞍马等许多礼物。但几天后，皇甫晖伤情加重，自知时日不多，拒绝医疗而死。滁州人感念于他，一天有五个时辰鸣钟祭献于他。

有子皇甫继勋。

评价

• 欧阳修《新五代史》：「晖为人骁勇无赖。」

• 南宋陆游《南唐书》、清朝吴任臣《十国春秋》：「晖独持重，部分甚整，士亦乐为用。周人颇惮之。」

• 清朝赵翼《廿二史札记》：「刘仁赡、皇甫晖、姚凤皆完节于南唐者。」

• 《十国春秋》论曰：皇甫晖以乱卒位刺史，拔身南奔，滁州之败，义不求生，庶几可为晚盖者矣。