Josef Zítek se narodil 4. 4. 1832 v Praze. V revolučním roce 1848 začal studovat na pražské polytechnice a vstoupil do studentské legie. Praha mu však tehdy nedávala velké možnosti vzdělání a tak odešel studovat do Vídně, kde současně začal studovat i polytechniku a akademii výtvarných umění.

Po skončení studia absolvoval cestu do Benátek a Terstu a v roce 1857 vypracoval projekt farního kostela v novogotickém slohu, za který obdržel cenu na výstavě Akademie výtvarných umění ve Vídni. Vypracoval rovněž návrh řeckokatolického kostela v Czanalós v Uhrách a návrh katolického kostela v Rakové na Slovensku.

V letech 1857 - 1858 spolupracoval na soutěžních návrzích České spořitelny, vídeňské univerzity a burzy. V roce 1858 obdržel státní stipendium na studijní cestu do Itálie, která vytyčila směr jeho díla. Po návratu pracoval na podrobných nákresech pro dvorní vídeňskou operu a vytvořil návrh úpravy schodiště Thunova paláce v Praze a dva návrhy pro Jindřichův Hradec.
V srpnu 1862 dostal Josef Zítek stipendium na cestu do Francie, Německa a Belgie. Vypracoval plány na přestavbu pivovaru v Petrohradě pro hraběte Černína a také zámku a loveckého pavilonu v Bečově. V roce 1863 řídil stavbu muzea ve Výmaru, v roce 1864 se vrátil do Vídně a získal stavitelskou koncesi. Od roku 1864 také začal vyučovat na pražské polytechnice.

V roce 1866 dostal za úkol zbudovat Národní divadlo, největší projekt jeho života. V době stavby Národního divadla také provedl stavbu Mlýnské kolonády v Karlových Varech a s J. Schulzem Rudolfinum.
Po požáru Národního divadla v roce 1881 mu byly vnucovány rekonstrukční návrhy pro něho nepřijatelné a tak se vzdal další spolupráce na divadle. Po tomto konfliktu se přestal tvůrčí práci věnovat a pracoval jen jako poradce při řešení různých uměleckých problémů. Byl například členem ředitelství stavby dómu sv. Víta a komise pro úpravu Karlštejna.

Při odchodu do výslužby získal Zítek uznání od císaře a v roce 1908 mu byl udělen titul barona. Na polytechnice vychoval mnoho schopných českých architektů. Byl nepochybně nejvýznamnějším českým architektem 19. století.

Josef Zítek zemřel 2. 8. 1909.