El Arka Gdynia debe su existencia al rapido crecimiento de una joven ciudad portuaria. La fecha oficial de fundacion del club se considera 1929, cuando en la ciudad de Gdynia, en plena expansion, se creo el Klub Sportowy Gdynia, la primera asociacion de este tipo en la ciudad. Las fusiones de posguerra de varios clubes locales, entre ellos el Club Deportivo de Pescadores MIR fundado en 1946, llevaron en la primavera de 1952 a la adopcion del nombre Arka, con el que el equipo compite todavia hoy.
El primer gran exito llego en un momento simbolico: exactamente siete anos despues de que el club adoptara el nombre de Arka, el 9 de mayo de 1979, el equipo de Gdynia gano la Copa de Polonia, venciendo al Wisła Krakow por 2-1 en la final, con el gol marcado por el capitan del equipo, Janusz Kupcewicz, leyenda del club entre 1974 y 1982. El triunfo le abrio las puertas a la competicion europea: en la temporada 1979/80 el Arka jugo la Recopa de Europa, que sigue siendo hasta hoy la unica participacion del club en competiciones europeas. La aficion tuvo que esperar 38 anos para ver repetida la hazana. En la temporada 2016/17, recien ascendido a la Ekstraklasa, el Arka no solo se mantuvo en la categoria, sino que gano la Copa de Polonia por segunda vez, venciendo al Lech Poznan por 2-1 tras la prorroga en la final. Un ano despues, pese a perder la final de copa ante el Legia Varsovia, el equipo de Gdynia se tomo la revancha sobre el club capitalino en la Supercopa de Polonia, ganando en los penaltis, y en 2018 defendio el trofeo, venciendo de nuevo al Legia por 3-2.
La historia del Arka tambien ha estado marcada por una sucesion de altibajos en la liga, incluido un doloroso descenso vinculado a un escandalo de amanamiento de partidos. Sin embargo, el club ha regresado en repetidas ocasiones a la maxima categoria, y en 2025 ascendio a la Ekstraklasa por sexta vez en su historia. El conjunto amarillo y azul disputa sus partidos como local en el Estadio Municipal de Gdynia, y la plaza junto al recinto lleva hoy el nombre de Janusz Kupcewicz, en honor al heroe del primer gran triunfo del club.