O clube foi fundado em 29 de maio de 1924 como Agrupación Deportiva El Rayo, na casa de Prudencia Priego no bairro de Puente de Vallecas, no sudeste de Madri, e o primeiro presidente foi Julián Huerta Priego. O campo era um terreno vago alugado, e a estreia foi 3 a 1 no vizinho Numantino. De 1931 a 1936 o time disputou o campeonato da Federação Obreira de Futebol, e é dali que vem a identidade de bairro operário. O nome atual foi acertado numa assembleia de 13 de novembro de 1947, junto com a adoção do escudo da prefeitura de Vallecas. Os Bukaneros, a organizada, são declaradamente antifascistas, e o clube já pagou o aluguel de uma moradora idosa despejada.
A faixa diagonal da camisa veio de um acordo. Em 1949-50 o Atlético de Madri cedeu jogadores e pediu, em troca, que o Rayo parasse de se vestir todo de branco como o Real Madrid e pusesse algo vermelho: a solução foi copiar a banda do River Plate, que respondeu mandando dois jogos de camisa de presente. O acordo durou um ano, o uniforme ficou para sempre. A primeira subida à Segunda saiu em 1956, com 5 a 3 no Gimnàstic de Tarragona no Metropolitano e três gols de Manolo Peñalva.
O antigo Campo de Vallecas foi fechado em 19 de outubro de 1972 porque estava em ruínas, e vieram quatro anos de exílio em Vallehermoso até o estádio atual abrir em 1976, construído sobre os escombros do velho. Ele pertence à Comunidade de Madri e é cedido ao clube. Entre 2004 e 2011 levou o nome de Teresa Rivero, a primeira mulher presidenta na primeira divisão espanhola. São 14.708 lugares, o MENOR da LaLiga nesta coleta, e três arquibancadas, porque a quarta nunca foi construída.
Ruiz-Mateos comprou a maioria das ações em 1991 e subiu o time à primeira divisão com José Antonio Camacho no banco. A queda do grupo Nueva Rumasa levou o clube à lei de recuperação em fevereiro de 2011, e a torcida montou a Fila 0, uma campanha de doação para pagar funcionários, jogadores e garotos da base. Em 5 de maio de 2011 Raúl Martín Presa comprou 98,6% das ações, assumiu a dívida e, um mês e meio depois, pediu recuperação judicial. O verão de 2026 foi o mais lucrativo da história, com Nobel Mendy vendido por 23,4 milhões de euros ao Hull City e Pep Chavarría por 19 ao Chelsea, contra 1,5 milhão gasto numa contratação. O elenco tem vinte e três jogadores e UM ÚNICO produto da própria base, o filho de Samuel Eto'o.
No masculino não existe troféu nacional em cento e dois anos: há o campeonato de segunda divisão de 2018, sob Míchel Sánchez, que antes tinha sido o jogador com mais gols e mais jogos da casa, 55 em 336. O time feminino ganhou TRÊS campeonatos espanhóis e uma Copa da Rainha, que foi o primeiro título oficial do clube. São 23 temporadas na elite em 95 edições, e o melhor resultado é o oitavo lugar, em 2012-13, 2024-25 e 2025-26. Óscar Trejo jogou 334 partidas e Álvaro García 319, e este último segue no elenco de 2026-27, aos 33 anos.
A campanha de 2000-01 tinha sido a única, e parou nas quartas da Copa da UEFA, contra o Alavés. Vinte e cinco anos depois veio a maior temporada da história: o Rayo bateu o AEK de Atenas por 4 a 3 no agregado, alcançou a primeira semifinal continental da casa, eliminou o Estrasburgo por 2 a 0 e em 27 de maio de 2026 jogou a final da Liga Conferência, perdida por 1 a 0 para o Crystal Palace.