Palermo FC powstał 1 listopada 1900 roku jako Anglo-Palermitan Athletic and Foot-Ball Club, z inicjatywy Ignazia Majo Pagano, młodego Sycylijczyka, który football poznał podczas nauki w Anglii, oraz miejscowej społeczności brytyjskiej. Pierwszym prezesem klubu został wicekonsul Wielkiej Brytanii w Palermo, Edward de Garston. Klub ten jest najstarszym istniejącym zespołem piłkarskim Sycylii oraz pierwszym powstałym na południu Włoch.
Pierwotnie zawodnicy występowali w barwach czerwono-niebieskich, nawiązujących do koszulki przywiezionej przez Majo Pagano z Anglii. Charakterystyczne różowo-czarne stroje, od których wzięło się przezwisko Rosanero, klub przyjął dopiero w 1907 roku, po tym jak nazwę zmieniono na Palermo Football Club. Na przestrzeni kolejnych dekad klub kilkukrotnie zmieniał nazwę w wyniku fuzji z innymi lokalnymi zespołami, w tym w latach 20. XX wieku z Vigor Palermo.
Najważniejszym rozdziałem sportowej historii Palermo pozostają trzy występy w finale Pucharu Włoch – w sezonach 1973/1974, 1978/1979 oraz 2010/2011 – za każdym razem zakończone porażką. Dwa pierwsze finały rozegrano w okresie, gdy klubem kierował Renzo Barbera, wieloletni prezes, którego imię od 2002 roku nosi klubowy stadion, wcześniej znany jako La Favorita. Obiekt otwarto w 1932 roku, a jego pojemność wynosi ponad 36 tysięcy miejsc.
W nowym tysiącleciu Palermo przeżyło prawdziwy renesans, wracając do Serie A i debiutując w europejskich pucharach – klub pięciokrotnie występował w Pucharze UEFA i Lidze Europy. Drużyna zdobyła również pięciokrotnie mistrzostwo Serie B oraz Puchar Włoch w kategorii Serie C w sezonie 1992/1993. Od 2022 roku klub jest częścią City Football Group, międzynarodowej grupy piłkarskiej zarządzającej między innymi Manchesterem City.