История «Сигмы» Оломоуц восходит к 1919 году, когда клуб был основан в Оломоуце как ФК «Гейчин» Оломоуц, а нынешнее название получил лишь в 1996 году, после ряда переименований, связанных со спонсорами, включая промышленную компанию Sigma, давшую клубу его устойчивую идентичность. «Сигма» впервые вышла в Первую лигу Чехословакии в сезоне 1982/83, а после прихода тренера Карела Брюкнера с 1984 года стала постоянным участником высшего дивизиона страны, несколько раз занимая третье место в чемпионате в 1990-х и начале 2000-х годов и став вице-чемпионом в сезоне 1995/96.
Именно в эпоху Брюкнера «Сигма» добилась своего самого запоминающегося результата в еврокубках. В сентябре 1999 года, в матче второго раунда Кубка УЕФА, клуб обыграл турецкий «Фенербахче» со счётом 7:1 в ответной встрече, победив по сумме двух матчей 7:2, прежде чем в следующем раунде уступить туринскому «Ювентусу». Однако с точки зрения того, до какого этапа удалось дойти, лучшего результата в еврокубках «Сигма» добилась раньше — в Кубке УЕФА 1991/92, дойдя до четвертьфинала, что до сих пор остаётся самым дальним этапом, которого клуб достигал в крупных европейских турнирах. В ту же кампанию вошла и памятная встреча с мадридским «Реалом», в которой 18-летний Радослав Латал получил прозвище «самого молодого либеро Европы» после того, как Брюкнер доверил ему место в стартовом составе.
На внутренней арене первый крупный трофей «Сигма» завоевала лишь в сезоне 2011/12, выиграв одновременно Кубок Чехии и Суперкубок Чехии — за этим достижением, однако, последовал вылет из высшего дивизиона в 2014 году и немедленное возвращение годом позже после победы во втором дивизионе. В сезоне 2024/25 «Сигма» добавила второй Кубок Чехии, обыграв в финале пражскую «Спарту» и обеспечив себе право выступить в еврокубках.
Прозванная «Ганаци» в честь окружающего Оломоуц моравского региона Гана, «Сигма» проводит домашние матчи на стадионе «Андрув стадион» в Оломоуце и остаётся, наряду с «Баником» из Остравы, одним из ведущих представителей моравского футбола в современной чешской системе лиг.