El 1. FC Köln fue fundado el 13 de febrero de 1948 tras la fusión de dos clubes de Colonia, el Kölner Ballspiel-Club 01 y el SpVgg Sülz 07, acordada en una taberna del barrio de Sülz. Franz Kremer se convirtió en el primer presidente del club, con el objetivo desde el principio de construir un equipo capaz de competir a escala nacional. Los colores del club, rojo y blanco, se tomaron de la bandera de Colonia.
Incluso antes de la creación de la Bundesliga, el FC Colonia conquistó el campeonato de Alemania Occidental en 1962, con Hans Schäfer, campeón del mundo en 1954, que jugó toda su carrera en el club. Un año después, Köln fue uno de los miembros fundadores de la nueva Bundesliga nacional y, en su primera temporada, 1963-64, se proclamó campeón bajo las órdenes del entrenador Georg Knöpfle — el tercer título alemán en la historia del club.
La temporada siguiente, Köln llegó a cuartos de final de la Copa de Europa, donde la eliminatoria ante el Liverpool, empatada tras dos partidos, se decidió a cara o cruz: la primera moneda quedó clavada de canto en el barro y hubo que repetir el sorteo. La suerte terminó favoreciendo al equipo inglés.
En la década de 1970 el club construyó su identidad en torno al centrocampista Wolfgang Overath, capitán durante años y más tarde presidente del club. En 1976 regresó a Colonia el entrenador Hennes Weisweiler, varias veces campeón con el Borussia Mönchengladbach, el mismo Weisweiler en cuyo honor se había bautizado en 1950 a la cabra mascota del club. Bajo su dirección, el Köln ganó la Copa de Alemania en 1977 y logró el doblete de liga y copa en 1978. En total, el club ha ganado la Copa de Alemania en cuatro ocasiones: 1968, 1977, 1978 y 1983.
El mayor logro europeo del club sigue siendo alcanzar la final de la Copa de la UEFA en 1986. Tras perder 5-1 en Madrid, el Köln ganó 2-0 la vuelta, resultado insuficiente para remontar una derrota global de 3-5 ante el Real Madrid. El máximo goleador de aquella edición fue el delantero del Köln Klaus Allofs, con nueve goles.
Hoy en día, uno de los símbolos más reconocibles del club sigue siendo Hennes, la cabra viva que hace de mascota desde 1950 y que está estrechamente ligada al carnaval de Colonia y a la identidad de su afición. Die Geißböcke disputan sus partidos como local en el estadio conocido durante décadas como Müngersdorfer Stadion, hoy con el nombre comercial de RheinEnergieStadion. Pese a los altibajos deportivos, el club sigue siendo uno de los más seguidos y reconocibles de Alemania.