La Córdoba romana fue fundada por el general Marcus Claudius Marcellus allá por el siglo II antes de nuestra era. Unos cien años después la ciudad era la capital de la Hispania Ulterior, apoyándose en la navegabilidad del rio Guadalquivir hasta la misma y en l ser el centro de una región muy rica en materias primas, llegando a tener a 21000 habitantes. Durante las guerras civiles entre Cesar y Pompeyo a mediados del siglo I a,d.c., la ciudad tomo partido por los perdedores, siendo arrasada en su totalidad.

Algunas décadas después, el emperador Octavio Augusto, decide instalar en ella a veteranos de las legiones, dándole el título de Colonia Patricia. A partir de ese momento, la ciudad se desarrolla, como una gran ciudad romana, con sus foros, sus templos, su circo y su teatro, pero en la ubicación en la que hoy se encuentra la Mezquita, no se han encontrado restos arqueológicos significativos de esta época, dado que se encontraba en una zona que abarcaba el complejo portuario fluvial, en la que se ubicarían almacenes, espacios comerciales y áreas fabriles

Tampoco se han encontrado restos arqueológicos de algún templo paleocristiano.