AEK Ateny powstał 13 kwietnia 1924 roku z inicjatywy greckich uchodźców z Konstantynopola, zmuszonych do opuszczenia miasta po wojnie grecko-tureckiej i wymianie ludności między Grecją a Turcją. Pamięć o utraconej ojczyźnie do dziś stanowi rdzeń tożsamości klubu – symbolem żółto-czarnych jest bizantyjski Dwugłowy Orzeł, nawiązujący do herbu Cesarstwa Bizantyńskiego, którego stolicą był właśnie Konstantynopol.
W krajowych rozgrywkach AEK zdobył 14 mistrzostw Grecji oraz 16 Pucharów Grecji, będąc jednym z trzech klubów – obok Olympiakosu i Panathinaikosu – które od dekad dominują w greckiej piłce nożnej. Na arenie europejskiej zespół zapisał się już w sezonie 1968/1969 jako pierwszy grecki klub, który awansował do ćwierćfinału Pucharu Europy. Osiem lat później, w sezonie 1976/1977, AEK dotarł do półfinału Pucharu UEFA – wciąż jeden z najlepszych wyników europejskich w historii greckiej piłki klubowej.
Współczesnym domem zespołu jest Stadion Agia Sophia, otwarty w 2022 roku w dzielnicy Nea Filadelfia, tam gdzie od 1930 roku stał wcześniejszy Stadion Nikosa Goumasa. Nazwa nowego obiektu, niezależnie od zmieniających się nazw sponsorskich, celowo nawiązuje do historycznej katedry Hagia Sophia w Konstantynopolu – najważniejszej świątyni chrześcijaństwa wschodniego i symbolu ojczyzny utraconej przez założycieli klubu. Architektura stadionu inspirowana jest murami Konstantynopola, a w jego wnętrzu mieści się także muzeum poświęcone greckim uchodźcom z Azji Mniejszej.