La historia de Heart of Midlothian FC está estrechamente ligada al desarrollo del fútbol en Edimburgo. La fundación del club se sitúa tradicionalmente en 1874, cuando miembros de la Heart of Mid-Lothian Quadrille Assembly adoptaron las reglas de la Football Association. La fecha exacta de formación no quedó registrada, pero 1874 es el año de fundación aceptado. El club se consolidó rápidamente en la capital y fue uno de los miembros fundadores de la Scottish Football League en 1890. Su identidad tradicional está representada por los colores granate y el nombre Hearts, mientras que sus aficionados son conocidos habitualmente como Jambos.
El primer campeonato de liga escocés de Hearts llegó en la temporada 1894/95, seguido por otro título en 1896/97. Después, el club tuvo que esperar más de seis décadas para volver a proclamarse campeón, logrando los títulos de 1957/58 y 1959/60. Hearts suma así cuatro campeonatos de Escocia, y el título de 1957/58 fue especialmente destacado por un registro defensivo de solo 29 goles encajados en 34 partidos.
La historia del club también está muy vinculada a la Scottish Cup. Hearts ganó la competición por primera vez en 1890/91 y posteriormente añadió triunfos en 1895/96, 1900/01, 1905/06, 1955/56, 1997/98, 2005/06 y 2011/12. La final de 1998 tuvo una importancia especial: el equipo dirigido por Jim Jefferies derrotó al Rangers por 2-1 en Celtic Park y puso fin a una espera de 42 años por el trofeo. Catorce años después, Hearts protagonizó otro momento histórico al vencer al rival ciudadano Hibernian por 5-1 en la final de 2012 disputada en Hampden Park.
Los años 50 produjeron uno de los equipos más fuertes de la historia del club. Futbolistas como Alfie Conn, Dave Mackay, John Cumming y Gordon Marshall formaron parte de un conjunto que ganó dos campeonatos, tres League Cups y la Scottish Cup de 1956. Aquella etapa también marcó la primera participación de Hearts en competiciones europeas. En septiembre de 1958, Ian Crawford marcó el primer gol del club en Europa contra el Standard de Lieja en la Copa de Europa.
Las competiciones europeas han proporcionado otros momentos memorables. La mejor campaña continental de Hearts llegó en la Copa de la UEFA 1988/89, cuando el equipo de Edimburgo alcanzó los cuartos de final después de ganar cinco de sus ocho partidos. El recorrido terminó contra el Bayern de Múnich: Hearts ganó la ida por 1-0 en Tynecastle gracias a un gol de Iain Ferguson, pero el Bayern se impuso por 2-0 en la vuelta. Desde entonces, Hearts ha participado en la Copa de la UEFA, la Europa League y la Conference League, manteniendo una presencia regular en el fútbol continental.
Una parte distintiva de la historia de Hearts es su relación con sus aficionados. El equipo juega en Tynecastle Park desde finales del siglo XIX, convirtiendo el estadio en uno de los escenarios más representativos del fútbol de Edimburgo. El recinto ha acogido algunos de los partidos más importantes del club, desde las primeras eliminatorias de copa hasta las noches europeas y los grandes derbis de la ciudad. La rivalidad con Hibernian constituye una de las rivalidades locales más antiguas del fútbol escocés, con enfrentamientos entre ambos clubes desde el siglo XIX.
La historia de Hearts también está marcada por figuras cuya influencia fue más allá de partidos concretos. Tom Purdie, uno de los miembros fundadores y primer capitán del club, desempeñó un papel importante durante los primeros años y posteriormente ayudó a Hearts a conquistar sus dos primeros campeonatos de liga. En la época moderna, Jim Jefferies está estrechamente relacionado con la conquista de la Scottish Cup de 1998, mientras que el equipo de 2012 dirigido por Paulo Sergio protagonizó uno de los resultados más memorables de la historia del derbi de Edimburgo.
Con cuatro campeonatos de Escocia, ocho Scottish Cups y cuatro League Cups, Heart of Midlothian FC se encuentra entre los clubes más exitosos del fútbol escocés fuera de los grandes equipos de Glasgow. Su larga relación con Tynecastle, los colores granate, la fuerte cultura de sus aficionados y la histórica rivalidad con Hibernian han creado una identidad profundamente vinculada a Edimburgo y a la historia del fútbol escocés.