皇甫遐,字永覽,北周河東汾陰(今山西省萬榮縣西南)人。
其家累世寒微,鄉里稱道他家庭和睦。皇甫遐性情純真,年少喪父,事奉母親有孝名。保定末年,母親去世,於是結廬於墓側,負土為墳。後在墓南營造一禪窟,陰雨天就穿窟,天晴就營墓,早晚勤力,未嘗暫停。經年累月,墳高數丈,周長五十餘步。禪窟重臺兩匝,共有十有二室,中間行道,可容納百人。皇甫遐吃粥枕土塊,櫛風沐雨,形容枯槁,以至於家人都不認識他。建墓開始的時候,有鴟烏各一隻,徘徊悲鳴,不離墓側,好像相助皇甫遐,經月餘日才離去。遠近之人聽說他為人至孝,都來送給他米麵。皇甫遐接受但不吃,全部禮佛供齋。郡縣上表匯報他的事跡,周武帝下詔旌異。