A legenda szerint egy Mária-szobornak nyújtotta az almáját, amely megelevenedett és elfogadta tőle. Ez csak egy volt azok közül a történetek közül, amelyek Hermann-József különleges istenkapcsolatáról szóltak.
Kölnben született elszegényedett polgárcsaládban, és már tizenkét évesen belépett a premontrei rendbe. Később papként szolgált Steinfeld kolostorában.
Vidám, közvetlen ember volt, akit mindenki szeretett. Egyházi énekeket és imádságokat írt, miközben lelkipásztorként és lelkivezetőként is sokakat segített.
Különösen mély szeretettel fordult Jézus és Szűz Mária felé. Több látomásáról is beszámoltak, ezért kortársai úgy tekintettek rá, mint Isten különleges barátjára.
Nagy önfegyelemmel élt: böjtölt, egyszerű körülmények között aludt, a betegségeket és a szenvedést pedig türelemmel viselte Krisztus követéseként.
Egy látomásban a Szűzanya kezébe helyezték a kezét, ekkor kapta a József nevet. Ettől kezdve sokan Mária káplánjaként emlegették.
Ő írta az egyik legkorábbi ismert himnuszt Jézus Szívéről, és Mária tiszteletére költött imái a rózsafüzér kialakulására is hatással voltak.
Élete végéig egyszerű szerzetesként szolgált. Halála után hamar elterjedt a tisztelete, ma pedig az anyák és a gyermekek egyik védőszentjeként tisztelik.