Fundado em 17 de junho de 1902, o Norwich City ganhou o apelido de Os Canários pela tradição local de criação da ave. A fundação saiu de uma reunião no Criterion Café, e o apelido é obra do presidente, criador de canários, que por volta de 1907 trocou o nome (até então Citizens) e vestiu o time de amarelo e verde. Em 1908 a casa passou a ser o Nest, uma antiga cava de calcário. Com o futebol parado pela Primeira Guerra e as dívidas crescendo, o clube entrou em liquidação voluntária em 10 de dezembro de 1917 e só foi refundado em 15 de fevereiro de 1919.
O clube mudou-se para Carrow Road em 1935 e desde então construiu a fama de time que costuma incomodar clubes grandes em copas, com destaque para a campanha europeia de 1993-94, quando bateu o Bayern de Munique por 2 a 1 no Olympiastadion, no único torneio internacional da história do clube. A estreia no estádio novo, em 31 de agosto de 1935, foi um 4 a 3 no West Ham United diante de 29.779 pessoas, e o recorde da casa segue sendo 43.984, contra o Leicester City, em 30 de março de 1963.
O fundo do poço foi 1956-57, último lugar de toda a Football League, com dívida acima de 20 mil libras. Um conselho novo presidido por Geoffrey Watling e uma campanha pública do prefeito Arthur South levantaram outras 20 mil e salvaram o clube, que hoje tem uma arquibancada com o nome de cada um. Dois anos depois, ainda na terceira divisão, o time chegou à semifinal da Copa da Inglaterra de 1958-59 tirando o Manchester United dos Busby Babes por 3 a 0, com sete gols de Terry Bly no caminho.
A melhor campanha na liga nacional foi o terceiro lugar na Premier League em 1992-93, na primeira temporada da competição sob esse nome. O clube também chegou três vezes à semifinal da Copa da Inglaterra, a última em 1992, e ganhou a Copa da Liga em 1962 e 1985. A subida à elite só veio em 1971-72, com o título da segunda divisão de Ron Saunders, e as duas primeiras idas a Wembley acabaram em 1 a 0 nas finais de Copa da Liga de 1973, contra o Tottenham, e de 1975, contra o Aston Villa. O título de 1985 saiu de um 1 a 0 no Sunderland, e na mesma temporada o clube caiu por um ponto, o primeiro na Inglaterra a juntar troféu nacional e rebaixamento.
Nas últimas décadas o Norwich alternou temporadas na Premier League com quedas rápidas à Championship, somando seis rebaixamentos dela, recorde da competição, o mais recente em 2021-22, um padrão de subida e descida que marcou o clube como o iô-iô da liga inglesa. A queda de 1995 encerrou nove temporadas seguidas na primeira divisão, recorde da casa, e em 2010 e 2011 Paul Lambert emendou o acesso da League One com o da Championship.
Delia Smith e o marido Michael Wynn-Jones compraram o controle do clube em 1996 e ficaram 28 anos no comando, período que incluiu o título da First Division em 2003-04 sob Nigel Worthington e as duas subidas de Daniel Farke, campeão da Championship em 2018-19 e outra vez em 2020-21, com um rebaixamento imediato entre as duas. Farke foi o primeiro treinador de fora das Ilhas Britânicas em 114 anos de clube. Mark Attanasio, dono do Milwaukee Brewers, assumiu o controle majoritário em outubro de 2024, e a instabilidade no banco seguiu, com Johannes Hoff Thorup, Liam Manning e Philippe Clement passando pelo cargo em pouco mais de um ano.