Il Charleroi Sporting Club è stato fondato il 1º gennaio 1904 ed è stato registrato alla Federcalcio belga il 24 novembre dello stesso anno (matricola n° 22). Nel 1924, la squadra si qualificò per giocare la Seconda Divisione e nel 1929 fu aggiunto il prefisso Royale al nome. Il Charleroi giocò nella Prima Divisione alla fine degli anni trenta, mentre negli anno 40 giocò nella Seconda Divisione fino alla promozione del 1947. Nel 1949, Il Charleroi terminò 4° in campionato, ma pochi anni dopo retrocedette in Seconda Divisione. Nel 1969, tornato in prima Divisione, termina il campionato al 2º posto, a 5 punti dallo Standard Liegi, qualificando si per la Coppa delle Fiere 1969/1970, ma due anni dopo retrocede ancora. Nel 1974 la Prima divisione passa da 16 a 20 squadre e il Charleroi viene ammesso a giocarla. Retrocede nuovamente nel 1980 (17° su 18) ma 5 anni dopo torna nuovamente nella massima serie.