O clube profissional nasceu em 10 de setembro de 1905, criado pela empresa dona do Palácio de Cristal, que queria um time próprio para encher o estádio onde a final da Copa da Inglaterra era disputada desde 1895. A Football League recusou o pedido de filiação e o Crystal Palace começou na segunda divisão da Southern League, que ganhou logo na primeira temporada. O apelido de Glaziers, os vidraceiros, veio do prédio de vidro. Desde junho de 2022 o escudo traz 1861 no lugar de 1905, em homenagem ao time amador que jogou a primeira Copa da Inglaterra e sumiu dos registros por volta de dezembro de 1875.
Em 1920 o clube entrou na Football League como sócio fundador da terceira divisão e foi campeão na primeira tentativa, feito que só Preston North End, Small Heath, Liverpool e Bury tinham conseguido até ali. Quatro anos depois se mudou para Selhurst Park, projetado por Archibald Leitch e aberto em 30 de agosto de 1924 com uma derrota por 1 a 0 para o Sheffield Wednesday diante de 25 mil pessoas. Foram 45 anos entre aquela mudança e a primeira temporada na elite, em 1969, com uma parada na quarta divisão no meio do caminho e um amistoso contra o Real Madrid em abril de 1962, o primeiro jogo do clube espanhol em Londres.
Malcolm Allison chegou em março de 1973, trocou o apelido de Glaziers por Eagles inspirado no Benfica, abandonou o grená e o azul da camisa e adotou as listras vermelhas e azuis do Barcelona, usadas até hoje. Também rebaixou o time duas vezes seguidas. Quem o levou de volta à elite foi Terry Venables, campeão da segunda divisão em 1978-79 com um grupo saído das duas Copas da Juventude de 1977 e 1978 que a imprensa apelidou de Time dos Anos Oitenta. O grupo liderou a primeira divisão inteira por uma semana em setembro de 1979 e se desfez por falta de dinheiro antes de virar alguma coisa.
O melhor time da história é o de Steve Coppell, que assumiu em junho de 1984 com 28 anos e 10 meses, montou o elenco com descartes da primeira divisão e tirou Ian Wright do futebol amador. Subiu pelo playoff de 1989, chegou à final da Copa da Inglaterra de 1990 batendo o Liverpool por 4 a 3 na prorrogação da semifinal, quatro meses depois de levar 9 a 0 em Anfield, e terminou a temporada seguinte em terceiro na primeira divisão, a melhor campanha que o clube já fez, com a Full Members' Cup ganha do Everton em Wembley no meio. Depois vieram vinte anos de sobe e desce, duas administrações judiciais e quatro subidas por playoff, mais do que qualquer outro clube inglês.
O primeiro título de expressão só chegou em 17 de maio de 2025, com o gol de Eberechi Eze no 1 a 0 sobre o Manchester City na final da Copa da Inglaterra. Três meses depois Eze foi vendido ao Arsenal por 68 milhões de libras, e o clube abriu 2025-26 ganhando a Supercopa da Inglaterra do Liverpool nos pênaltis, na primeira vez que a disputou. Em 27 de maio de 2026 ganhou a Liga Conferência do Rayo Vallecano por 1 a 0 em Leipzig, terminando a temporada com dois troféus e um 15º lugar na Premier League. Numa carreira, é o clube que já provou que ganha, e que vende o autor do gol antes da temporada seguinte começar.