FC Mulhouse è stata fondata nel 1893 come squadra di calcio di Mühlhausen. Sotto questo nome ha gareggiato fino al 1918 (e di nuovo tra il 1940 e il 1945). L’FC Mühlhausen è entrato a far parte della Federcalcio tedesca nel 1904, ha prevalso contro il Freiburg FC e l’SV Strasburgo nella prima stagione e ha sconfitto Monaco nel turno successivo del distretto tedesco meridionale della Baviera. La squadra della lega blu e bianca ha giocato dal 1906 nello stadio ciclistico, dal 1921 nello Stade Bourtzwiller di recente costruzione (e finanziato con questo prestito) e oggi nello Stade de l’Ill. Il più grande successo sportivo nella stagione 1934/35 fu un sesto posto nella prima divisione francese. Sebbene Peugeot (che ha un grande impianto vicino a Mulhouse) sponsorizzasse temporaneamente l’FC Mulhouse, il club ha giocato solo due volte nella prima divisione dopo la seconda guerra mondiale (1982/83 e 1989/90), oggi solo quarto nella CFA, la più alta lega amatoriale in Francia.