Во время учебы в гимназии при университете Гамбурга Герц проявляет исключительные способности к языкам и математике.

В 1876 году после первого семестра Герц бросает учебу в Дрездене, так как помимо лекций по математике больше ничего его там не заинтересовало. После года военной службы начинает изучать математику и физику в Техническом институте Мюнхена и переходит вскоре после этого в 1878 в Университет Фридриха Вильгельма в Берлине (ныне Университет имени братьев Гумбольдт). Среди его преподавателей были Густав Кирхгоф и Герман Гельмгольц.

В возрасте двадцати трех лет Герц получает ученую степень за работу о вращении металлических шаров в магнитном поле и следующие два года занимает должность младшего научного сотрудника и ассистента у профессора Гельмгольца в Берлине.

С 1883 года Герц - приват-доцент теоретической физики в Университете Киля. С 1885 по 1889 годы - профессор физики в Техническом институте в Карлсруэ, где он сделал своё научное открытие о существовании электромагнитных волн.

С 1889 года Герц становится профессором физики в Боннском Университете после того, как он отказывается от назначений в Берлин и переезда в Америку.

Генрих Герц был женат на Элизабет Долл, в браке с которой у него родились две дочери - Иоханна и Матильда.

Герц умер в 1894 году, в возрасте 36 лет в Бонне от заражения крови после менингита. Похоронен великий ученый в Гамбурге, на кладбище Ольсдорф.

Его жена и дочери, после прихода к власти нацистов, эмигрировали в Англию. Дочери Герца в браке не состояли, поэтому потомков у него не осталось. Одна из дочерей - Матильда Герц (1891—1975) стала психологом.

Племянник Густав Людвиг Герц (1887-1975) стал известным физиком и был удостоен Нобелевской премии 1925 года за эксперименты в области атомной физики.

В 1930-е годы нацисты из-за еврейского происхождения ученого убрали его портрет из зала славы городской ратуши Гамбурга, после войны он был возвращен на прежнее место. Кроме того, в 1933 году нацистами была убрана посвященная Герцу бронзовая скульптура «Радиоволна». В 1994 году эта преданная забвению скульптура работы Фридриха Вильда была установлена в дубовом парке на берегу Альстера. Также имя знаменитого ученого носит сейчас городская телебашня Гамбурга.