O Cardiff City saiu de uma reunião na casa do litógrafo Bartley Wilson, em 1899, com o nome Riverside A.F.C. e a função de manter em forma no inverno os jogadores do Riverside Cricket Club. O pedido para virar Cardiff City foi feito em 1905, quando Eduardo VII elevou a cidade a city, e negado por nível baixo; concedido em 1908, veio junto o azul que rendeu o apelido Bluebirds. Foi o azul que Vincent Tan trocou por vermelho e preto em 2012, contra protestos, até a volta em janeiro de 2015.
O primeiro campo foi o parque Sophia Gardens. Em 1910, num terreno de lixão na Sloper Road obtido do Bute Estate, ficou pronto o Ninian Park, batizado em homenagem a Lord Ninian Crichton-Stuart e inaugurado em 1 de setembro daquele ano com um amistoso contra o Aston Villa. Fred Stewart comandou o time por 22 anos e o levou à Football League em 1920, com 5 a 2 sobre o Stockport County na estreia e acesso à elite como vice na primeira temporada.
Em 1923-24 o título inglês escapou por 0,024 no coeficiente de gols para o Huddersfield Town, com Len Davies perdendo um pênalti no 0 a 0 da última rodada. Perdeu a final de FA Cup de 1925 para o Sheffield United e voltou a Wembley em 23 de abril de 1927 para ser o único de fora da Inglaterra a ganhar o torneio, 1 a 0 no Arsenal, gol de Hughie Ferguson aos 74 minutos, com Fred Keenor recebendo a taça do rei George V e 150 mil pessoas nas ruas no dia seguinte. A Copa do País de Gales do mesmo ano, 2 a 0 sobre o Rhyl, fez dele o ÚNICO campeão das copas nacionais de dois países na mesma temporada.
A queda veio logo: rebaixado em 1928-29 apesar de ter a defesa menos vazada da divisão, caiu de novo dois anos depois, e na terceira divisão aplicou a maior vitória de liga da história, 9 a 2 sobre o Thames em 1932. Stewart renunciou em 1933, o time terminou 1933-34 na lanterna e teve de pedir reeleição à liga. Voltou com o título da Terceira Divisão Sul de 1946-47 e à elite em 1952, por cinco temporadas, após 23 anos fora. A pior colocação da história é de 1996, 22º entre 24 na terceira divisão.
As 22 Copas do País de Gales renderam Europa. Em 1968 o time chegou à semifinal da Copa das Copas, onde 43 mil pessoas no Ninian Park viram o Hamburgo ganhar por 3 a 2, o mais longe que um clube galês já foi na Europa. Em 1971, 47 mil viram o 1 a 0 sobre o Real Madrid nas quartas, gol de cabeça de Brian Clark, antes do 2 a 0 na volta. O caminho fechou em 1995: depois da final perdida para o Wrexham, a UEFA pressionou e os galeses das ligas inglesas foram banidos da copa nacional.
Sam Hammam comprou o clube em 2000 e a subida veio em 2003, com gol de Andy Campbell na prorrogação do playoff sobre o Queens Park Rangers, e em 2008 o time perdeu a final da FA Cup para o Portsmouth por 1 a 0. Em 2009 deixou o Ninian Park, onde 57.893 pessoas viram um jogo com o Arsenal em 1953, pelo Cardiff City Stadium, 26.828 lugares e 48 milhões de libras, ampliado para 33.316 em 2014. Um consórcio malaio assumiu em 2010 e Tan chegou a 82% das ações. Com Malky Mackay vieram a primeira final de Copa da Liga, em 2012, e o título da Championship de 2012-13, que devolveu a elite após 52 anos. Neil Warnock subiu outra vez em 2018, o prejuízo operacional de 2021-22 foi de 29 milhões de libras, e o rebaixamento à League One de 2025 foi revertido no ano seguinte.