Nazwa Rapidu Bukareszt nie pochodzi wcale z piłki nożnej, lecz z kolei - wybrali ją założyciele klubu na cześć szybkich pociągów pasażerskich obsługiwanych przez ich pracodawcę, rumuńskie koleje państwowe. Klub powstał 25 czerwca 1923 roku, założony przez grupę pracowników warsztatów kolejowych Griviţa w Bukareszcie, którzy formalnie zarejestrowali go jako „Stowarzyszenie Kulturalno-Sportowe CFR”, z Teofilem Copacim jako pierwszym prezesem. Jego pierwsze lata były bardzo niepewne - w 1925 roku młody klub został nawet zawieszony w rozgrywkach bukareszteńskich za wielokrotną niemożność wystawienia pełnego składu, często z powodu braku odpowiedniego sprzętu.
Pierwsza złota era Rapidu rozpoczęła się w latach 30., gdy klub, choć nigdy przed wojną nie zdobył mistrzostwa kraju, zdominował rozgrywki Pucharu Rumunii, wygrywając jego inauguracyjną edycję w sezonie 1933/34, a następnie triumfując sześciokrotnie z rzędu w latach 1936/37-1941/42. Gwiazdorski napastnik Giussy Barátky, przezywany „Blond Cudem”, reprezentujący w karierze zarówno Węgry, jak i Rumunię, prowadził atak klubu w czerwcu 1940 roku, gdy Rapid pokonał węgierskie Hungária MTK w Budapeszcie, stając się pierwszym rumuńskim klubem, który wygrał mecz w tym mieście - był to element drogi do finału Pucharu Mitropa 1940, który ostatecznie nie odbył się z powodu wybuchu wojny.
Za czasów komunizmu, gdy państwowe środki kierowano do nowo utworzonych klubów wojska i tajnej policji, Steauy i Dinama, robotniczo-kolejarskie korzenie sprawiły, że Rapid stał się „trzecim klubem” Bukaresztu, choć trybuny zespołu zyskały reputację buntowniczych, niekiedy przybierających formę otwartego sprzeciwu wobec reżimu. Sportowe sukcesy przyszły ostatecznie w postaci pierwszego mistrzostwa kraju w sezonie 1966/67, a kolejne tytuły zdobyto w latach 1998/99 i 2002/03. Na arenie europejskiej najlepsze wyniki klub osiągnął w Pucharze Zdobywców Pucharów 1973 oraz Pucharze UEFA 2005/06, docierając w obu przypadkach do ćwierćfinału. Łącznie Rapid zdobył trzy mistrzostwa Rumunii, rekordowe 13 Pucharów Rumunii oraz cztery Superpuchary kraju.
Problemy finansowe doprowadziły do upadłości klubu w 2016 roku, jednak Rapid został reaktywowany i w 2021 roku wrócił do Liga I. Nazywany Feroviarii (Kolejarzami) i grający w barwach biało-bordowych, Rapid nadal reprezentuje dzielnicę Giulești na Superbet Arena – Giulești, nowoczesnym stadionie wybudowanym na miejscu historycznego obiektu klubu, wciąż powszechnie nazywanym po prostu Giulești.