Antes de que el Servette FC se convirtiera en uno de los pilares del fútbol suizo, no jugó al fútbol en absoluto durante su primera década de existencia. El club se fundó en marzo de 1890 en Ginebra como un equipo de rugby, tomando su nombre del distrito de Servette de la ciudad. Solo cuando el rugby perdió popularidad en Suiza, el club creó una sección de fútbol, el 17 de enero de 1900, que casi de inmediato se incorporó a la recién formada Federación Suiza de Fútbol.
El equipo, conocido hoy como Les Grenats (Los Granates) por el color de sus camisetas, se convirtió rápidamente en uno de los clubes más laureados del país. El Servette ha conquistado 17 campeonatos suizos y 8 Copas de Suiza, lo que lo convierte en el club más exitoso de la Suiza francófona. Un episodio particularmente llamativo en la historia del Servette llegó en 1930, cuando el club, tras conquistar el campeonato, organizó en Ginebra la Coupe des Nations, un torneo internacional concebido como contrapartida europea de la primerísima Copa del Mundo, disputada ese mismo verano en Uruguay. El evento coincidió con la inauguración del nuevo estadio del club, el Stade des Charmilles, que sería la casa del Servette durante más de setenta años.
Uno de los momentos más brillantes en la historia del club llegó en la temporada 1978-79, cuando el equipo dirigido por Umberto Barberis y Claude "Didi" Andrey conquistó todos los títulos domésticos disponibles —el campeonato, la Copa de Suiza y la Copa de la Liga— mientras alcanzaba los cuartos de final de la Recopa de Europa.
El título suizo más reciente del Servette llegó en 1999, tras lo cual el club entró en un turbulento periodo de problemas financieros que culminó en la bancarrota y el descenso a la tercera división suiza en la temporada 2004-05. Tras años de reconstrucción, el club regresó a la máxima categoría en 2011. Desde 2003, el Servette disputa sus partidos como local en el moderno Stade de Genève, con capacidad para más de 30.000 espectadores, continuando la tradición de uno de los clubes más antiguos y reconocibles de la historia del fútbol suizo.