Uralma idején sok gondja volt közvetlen birodalma irányításában, ezért Róma védelmére nem maradt energiája. Ennek következtében a pápa más uralkodók befolyása alá került, akik megszerezték a császári koronát.
Uralkodása során a pápák ellen vívott invesztitúra háborúk miatt komoly belső konfliktusokat kellett kezelnie. Három ellenkirályt is állítottak Henrikkel szembe. Az egyik Sváb Rudolf, a másik Herman volt, míg a harmadik saját rokonai közül került ki: Konrád személyében.