O topônimo al-Andalus (الأندلس) é atestado pela primeira vez em inscrições em moedas cunhadas pelos governantes omíadas da Península Ibérica, de ca. 715.

A etimologia do nome foi tradicionalmente derivada do nome dos vândalos (que se estabeleceram na Hispânia no século V). Uma série de propostas desde a década de 1980 contestaram isso: Vallvé (1986) propôs a derivação do nome do Atlântico. Halm (1989) deriva o nome de um termo gótico reconstruído *landahlauts. Bossong (2002) sugere derivação de um substrato pré-romano. Corriente (2008) sugere uma derivação do copta *emendelēs, "sudoeste".

A forma espanhola Andalucía foi introduzida no século 13. O nome foi adotado em referência aos territórios ainda sob o domínio mouro na época, e geralmente ao sul de Castilla Nueva e Valência, e correspondendo à antiga província romana até então chamada Baetica em fontes latinas. Esta foi uma castilianização de Al-Andalusiya, a forma adjetiva da palavra árabe al-Andalus.

Os vândalos eram um povo germânico que primeiro habitou o que hoje é o sul da Polônia. Eles estabeleceram reinos vândalos na Península Ibérica, ilhas do Mediterrâneo e norte da África no século V.

Os vândalos migraram para a área entre os baixos rios Oder e Vístula no século II aC e se estabeleceram na Silésia por volta de 120 aC. Eles estão associados à cultura Przeworsk e possivelmente eram o mesmo povo que os Lugii. Expandindo-se para a Dácia durante as Guerras Marcomannicas e para a Panônia durante a Crise do Terceiro Século, os vândalos foram confinados à Panônia pelos godos por volta de 330 DC, onde receberam permissão de Constantino, o Grande, para se estabelecerem. Por volta de 400, os ataques dos hunos do leste forçaram muitas tribos germânicas a migrar para o oeste no território do Império Romano e, temendo ser o próximo alvo, os vândalos também foram empurrados para o oeste, cruzando o Reno para a Gália junto com outras tribos. em 406. Em 409, os vândalos cruzaram os Pirineus para a Península Ibérica, onde os Hasdingi e os Silingi se estabeleceram na Gallaecia (noroeste da Península Ibérica) e na Bética (centro-sul da Península Ibérica).

Sob as ordens dos romanos, os visigodos invadiram a Península Ibérica em 418. Eles quase exterminaram os vândalos alanos e silingi que voluntariamente se submeteram ao governo do líder hasdingiano Gunderic. Gunderic foi então empurrado da Gallaecia para a Bética por uma coalizão romano-suebi em 419. Em 429, sob o rei Genseric (reinou em 428–477), os vândalos entraram no norte da África. Em 439 eles estabeleceram um reino que incluía a província romana da África, bem como a Sicília, Córsega, Sardenha, Malta e as Ilhas Baleares. Eles repeliram várias tentativas romanas de recapturar a província africana e saquearam a cidade de Roma em 455. Seu reino desmoronou na Guerra Vândala de 533–34, na qual as forças do imperador Justiniano I reconquistaram a província para o Império Romano do Oriente.

Enquanto os vândalos saqueavam Roma por quatorze dias, os escritores renascentistas e modernos caracterizaram os vândalos como bárbaros prototípicos. Isso levou ao uso do termo "vandalismo" para descrever qualquer destruição sem sentido, particularmente a desfiguração "bárbara" de obras de arte. No entanto, alguns historiadores modernos enfatizaram o papel dos vândalos como continuadores de aspectos da cultura romana, no período de transição da Antiguidade Tardia para a Alta Idade Média.