O clube nasceu em 1894 como Bristol South End e virou Bristol City três anos depois, com o vermelho como cor desde a virada do século. É o lado da cidade que mais vezes chegou perto da elite sem nunca se firmar nela. Em 1900 se fundiu com o Bedminster, vizinho fundado em 1887 como Southville, e em 1901 entrou na Football League como o terceiro clube ao sul de Birmingham a disputá-la, atrás de Woolwich Arsenal e Luton Town.
A melhor década foi a primeira. O título da Segunda Divisão de 1905-06 fez do clube o primeiro da história da Football League a ganhar 30 jogos numa temporada, de 38, com uma sequência de 14 vitórias que ficou como recorde da liga por mais de cem anos. No ano seguinte, na estreia na primeira divisão, terminou em segundo, único clube do sul da Inglaterra a fechar entre os dois primeiros antes da Primeira Guerra. Em 1909 veio a única final de Copa da Inglaterra, perdida para o Manchester United por 1 a 0. O rebaixamento de 1910-11 custou 65 anos fora da elite.
A queda de 1922 à Terceira Divisão Sul abriu o período mais duro. O 9 a 0 do Coventry City, em 28 de abril de 1934, segue como a maior derrota de liga, e a Copa do País de Gales de 1934, ganha do Tranmere Rovers, foi o troféu daquela década. A arquibancada principal de Ashton Gate foi destruída por um bombardeio alemão, e o público recorde, 43.335 pessoas contra o Preston North End, é de 16 de fevereiro de 1935. John Atyeo fez 351 gols em 645 jogos entre 1951 e 1966 e segue como o maior artilheiro da história, com uma arquibancada de Ashton Gate batizada em homenagem a ele. Louis Carey, zagueiro em duas passagens entre 1995 e 2012, é quem mais vezes vestiu a camisa, 624 vezes.
Alan Dicks pegou o time em 1967 e o levou de volta à primeira divisão em 1976, fim do exílio de 65 anos. Em 1977-78 o clube ganhou a Copa Anglo-Escocesa batendo na final, por 3 a 2 no agregado, um St Mirren treinado por Alex Ferguson. Depois vieram três rebaixamentos seguidos, de 1980 a 1982, o último à quarta divisão, e a falência decretada em 1982. Os oito jogadores mais bem pagos do elenco, que a cidade passou a chamar de Ashton Gate Eight, aceitaram rescindir por metade do que tinham a receber.
O título da League One em 2014-15 veio com 99 pontos, a melhor campanha em pontos corridos da história do clube, e ainda assim ficou longe de qualquer acesso à Premier League. O clube alterna Championship e terceira divisão há décadas sem repetir uma subida à elite desde os anos 1980. Em 2024-25 chegou ao playoff pela primeira vez em dezessete anos e levou 6 a 0 no agregado do Sheffield United.
Ashton Gate é do clube desde 1904 e teve reforma completa concluída em 2016, virando um dos estádios mais modernos da Championship, hoje dividido com o time de rúgbi Bristol Bears. A venda de Alex Scott ao Bournemouth por 25 milhões de libras em 2023 é o maior negócio já fechado pelo clube. O dono é Steve Lansdown, empresário local que cofundou a gestora financeira Hargreaves Lansdown em 1981, se envolveu com o Bristol City a partir de 1996 e virou presidente em 2002. Vendeu parte da própria participação na empresa para bancar a reforma de Ashton Gate depois que o projeto de um estádio novo não saiu do papel, e hoje reúne o futebol, o Bristol Bears e outras equipes da cidade sob o guarda-chuva do Bristol Sport.