Železné hory tvoří severozápadní výběžek Českomoravské vrchoviny. Na severu se pozvolna sklánějí k Polabské nížině, U Modletína na jihozápadě se výrazným hřebenem, který kopíruje tok malebné řeky Doubravy, zvedají nad Čáslavskou kotlinu. Nadmořská výška tohoto hřebene se od Týnce nad Labem postupně zvyšuje až k vrcholům Krkaňka (566 m n. m.) u Ronova nad Doubravou, Kaňkovy hory (557 m n. m.) u Třemošnice, Bučina (606 m n. m.) u Prachovic, Spálava (663 m n. m.) a Vestec (668 m n. m.) u Libice nad Doubravou. V průběhu zmíněného hřebene narazíme u Třemošnice také na Lovětínskou a Hedvikovskou rokli se sráznými skalami.
Název Železné hory se v latinské podobě "Montes Ferrei" objevuje již ve Zbraslavské kronice ze 13. století. Ve skutečnosti mají však Železné hory ráz vrchoviny až pahorkatiny.
V geomorfologickém členění se skládají ze dvou částí - nižší Chvaletické pahorkatiny na severozápadě a vyšší Sečské vrchoviny v centrální a východní části.
Rozloha Železných hor je téměř 600 km2 při střední nadmořské výšce asi 450 m n. m. Polohy nad 500 m n. m. zabírají asi 33 % rozlohy Železných hor, polohy nad 600 m n. m. již pouze 5 %.
Železné hory sousedí s Východolabskou tabulí, Středolabskou tabulí, Hornosázavskou pahorkatinou, Hornosvrateckou vrchovinou a Svitavskou pahorkatinou.