O clube nasceu em setembro de 1875 com o nome de Small Heath Alliance, virou profissional em 1885 e em 1888 foi o primeiro clube de futebol do mundo a se transformar em sociedade limitada com conselho de administração. Em 1892 entrou na recém-criada segunda divisão inglesa e terminou campeão logo de cara, sem subir, porque o sistema da época mandava disputar uma repescagem para valer o acesso. Subiu no ano seguinte, adotou o nome Birmingham em 1905, mudou-se para St Andrew's no Natal de 1906 e passou boa parte das quatro décadas seguintes descendo e voltando.
O nome Birmingham City chegou em 1943 e a melhor época do clube veio logo atrás. Foram os títulos de segunda divisão de 1947-48, com 24 gols sofridos em 42 jogos, e de 1954-55, e no ano seguinte o sexto lugar na elite que segue sendo a maior colocação da história. Em 1956 o time voltou a Wembley e perdeu a final da Copa da Inglaterra para o Manchester City por 3 a 1, no jogo em que Bert Trautmann terminou a partida com uma vértebra quebrada. No mesmo maio o Birmingham virou o primeiro clube inglês a jogar competição europeia, na Copa das Cidades com Feiras, e depois o primeiro a chegar a uma final europeia, perdida para o Barcelona em 1960 e para a Roma em 1961. No caminho da semifinal de 1961 ganhou da Internazionale em casa e no San Siro, onde nenhum outro clube inglês venceria uma partida oficial até o Arsenal, mais de quarenta anos depois.
O primeiro troféu nacional veio em 1963, na final da Copa da Liga contra o Aston Villa, decidida em dois jogos e vencida por 3 a 1 no agregado. Depois disso o clube passou trinta anos vendendo os melhores para sobreviver. Bob Latchford saiu ao Everton em 1974 por 350 mil libras, recorde britânico da época, e Trevor Francis foi ao Nottingham Forest em 1979 e virou o primeiro jogador de um milhão de libras do futebol inglês, depois de 133 gols em 329 jogos. Em 1989 o Birmingham chegou à terceira divisão pela primeira vez na história, e em 1993 foi comprado por 700 mil libras por David Sullivan, que pôs Karren Brady, então com 23 anos, na direção.
A reconstrução deu certo por um tempo. Steve Bruce subiu à Premier League em 2002 pelo playoff, contra o Norwich City nos pênaltis, e de novo em 2007. Sob Alex McLeish veio o nono lugar de 2009-10, o melhor em mais de cinquenta anos, e a temporada mais estranha que um clube inglês já teve, a de 2010-11, que terminou com a segunda Copa da Liga, ganha do Arsenal por 2 a 1 em Wembley, e com o rebaixamento, na mesma primavera. McLeish pediu demissão para assinar com o Aston Villa. Nos treze anos seguintes o clube trocou de técnico quase todo ano, levou nove pontos de punição por quebra das regras financeiras da liga, vendeu Jude Bellingham ao Borussia Dortmund por 25 milhões de libras em julho de 2020 e caiu à terceira divisão em 2024, depois de 29 anos sem descer tão fundo.
Em julho de 2023 a Shelby Companies, subsidiária do fundo americano Knighthead de Tom Wagner, comprou o controle do clube e o estádio inteiro, e trouxe Tom Brady como sócio minoritário. A queda aconteceu mesmo assim, mas Chris Davies subiu de volta na primeira tentativa, com o título da League One de 2024-25, e o Birmingham terminou 2025-26 em décimo na Championship. St Andrew's virou St Andrew's @ Knighthead Park, e o dono fala em um novo estádio e num distrito esportivo em volta. Numa carreira, é o clube inglês com o cofre mais desproporcional à divisão em que joga, e o que a arquibancada canta desde 1956 continua sendo Keep Right On To The End of the Road, música de music hall de Harry Lauder que virou hino porque Alex Govan contou numa entrevista que era a favorita dele e o estádio inteiro começou a cantá-la na semifinal daquela Copa da Inglaterra.