Родился в Альтоне (город близ Гамбурга, ныне его район) 29 ноября 1803. Первоначально изучал право и математику в местном университете, затем занимался в мастерских архитекторов Ф.Гёртнера в Мюнхене (1825) и Ф.Гау в Париже (с 1826). В 18301833 путешествовал по Франции, Греции и Италии. Профессор дрезденской Академии художеств (с 1839), принял участие в революции 1849 года, после чего вынужден был эмигрировать. Жил в Париже, Лондоне (с 1851). В 18551871 профессор Политехникума и директор Строительной школы в Цюрихе. В 18711876 работал в Вене.
В своей архитектурной практике вдохновлялся античной классикой, однако не в чистом виде (как было у его друга К.Ф.Шинкеля), а воспринятой сквозь призму итальянского Ренессанса и барокко. Разрабатывал монументальные комплексы, доминирующие в ансамблях центров обновляемых городов. Известнейшее его произведение здание Дрезденской оперы (18371841, достройки 18711878). В соавторстве с К. фон Хазенауэром внес выдающийся вклад в сложение историко-ретроспективного «стиля Рингштрассе» в Вене, спроектировав здания Художественно-исторического и Естественно-исторического музеев (18721881), а также «Бургтеатра» (18741888). Среди прочих его построек Политехникум и Университет в Цюрихе (совместно с И.Вольфом; 18601864).
Опубликовал целый ряд теоретических работ, важнейшей из которых является книга Стиль в технических и тектонических искусствах (1863) опыт «практической эстетики», где он в противовес философскому идеализму своего времени подчеркнул базисное стилеобразующее значение материалов и техники. Ратовал за активизацию роли цвета в скульптуре и зодчестве, посвятив этой проблеме работы Заметки о раскрашенной архитектуре и пластике древних (1834) и О полихромии (1851). С 1876 жил в Италии.
Умер Земпер в Риме 15 мая 1879.
Земпер Г. Практическая эстетика. М., 1970