История «Харт оф Мидлотиан» неразрывно связана с развитием футбола в Эдинбурге. Основание клуба традиционно датируется 1874 годом, когда члены Heart of Mid-Lothian Quadrille Assembly приняли правила Футбольной ассоциации. Точная дата создания не была зафиксирована, однако 1874 год считается официальным годом основания Hearts. Клуб быстро занял важное место в футбольной жизни столицы и в 1890 году вошёл в число основателей Шотландской футбольной лиги. Традиционные цвета команды — бордовый и белый, а болельщики широко известны как «Джамбос».
Первый чемпионский титул Шотландии Hearts завоевал в сезоне 1894/95, а в 1896/97 повторил этот успех. Следующего чемпионства клубу пришлось ждать более шести десятилетий. Очередные титулы были выиграны в сезонах 1957/58 и 1959/60, поэтому всего у Hearts четыре чемпионства Шотландии. Особенно впечатляющим был сезон 1957/58, когда команда пропустила всего 29 голов в 34 матчах чемпионата.
Большую часть клубной истории составляет борьба за Кубок Шотландии. Hearts впервые выиграл этот турнир в сезоне 1890/91, а затем добавил победы в 1895/96, 1900/01, 1905/06, 1955/56, 1997/98, 2005/06 и 2011/12. Особое значение имел финал 1998 года, когда команда под руководством Джима Джеффриса победила «Рейнджерс» со счётом 2:1 на «Селтик Парке», завершив 42-летнее ожидание трофея. Четырнадцать лет спустя Hearts добился ещё одного исторического результата, разгромив городского соперника «Хиберниан» со счётом 5:1 в финале 2012 года на «Хэмпден Парке».
В 1950-е годы сформировалась одна из сильнейших команд в истории клуба. Алфи Конн, Дэйв Маккей, Джон Камминг и Гордон Маршалл входили в состав команды, выигравшей два чемпионства, три Кубка лиги и Кубок Шотландии 1956 года. В этот период Hearts впервые вышел на европейскую арену. В сентябре 1958 года Иэн Кроуфорд забил первый европейский гол клуба в матче против льежского «Стандарда» в Кубке европейских чемпионов.
Самым успешным европейским выступлением Hearts остаётся Кубок УЕФА 1988/89. Эдинбургская команда дошла тогда до четвертьфинала, выиграв пять из восьми матчей. Соперником на этой стадии стала «Бавария» Мюнхен. Hearts победил в первом матче на «Тайнкасл» со счётом 1:0 благодаря голу Иэна Фергюсона, однако в ответной встрече «Бавария» выиграла 2:0 и вышла дальше. В последующие десятилетия Hearts также выступал в Кубке УЕФА, Лиге Европы и Лиге конференций, регулярно представляя Шотландию в европейских турнирах.
Важной частью идентичности клуба остаётся связь с болельщиками и домашним стадионом. «Тайнкасл Парк» является домом Hearts с конца XIX века и считается одной из наиболее узнаваемых футбольных арен Эдинбурга. Здесь проходили важнейшие матчи клуба — от ранних кубковых встреч до европейских вечеров и дерби столицы. Противостояние с «Хибернианом» является одним из старейших городских дерби шотландского футбола: команды встречаются друг с другом ещё с XIX века.
История Hearts связана и с несколькими фигурами, сыгравшими значительную роль в развитии клуба. Том Пёрди, один из основателей и первый капитан, участвовал в становлении команды, а позднее помог клубу завоевать первые два чемпионских титула Шотландии. В современной истории с победой в Кубке Шотландии 1998 года прежде всего связан Джим Джеффрис, тогда как команда под руководством Паулу Сержиу вошла в историю благодаря победе над «Хибернианом» со счётом 5:1 в финале 2012 года.
Четыре чемпионства Шотландии, восемь Кубков Шотландии и четыре Кубка лиги делают «Харт оф Мидлотиан» одним из наиболее титулованных шотландских клубов за пределами традиционных грандов Глазго. Многолетняя связь с «Тайнкасл», бордовые цвета, сильная культура болельщиков и историческое противостояние с «Хибернианом» сформировали идентичность, прочно связанную с Эдинбургом и историей шотландского футбола.